"일꾼이 일을 잘하려면 먼저 도구를 갈고 닦아야 한다." - 공자, 『논어』.
첫 장 > 프로그램 작성 > 시맨틱 라우터 - 조종 LLM

시맨틱 라우터 - 조종 LLM

2024-08-27에 게시됨
검색:332

Semantic Router - Steer LLMs

저는 제가 작업하고 있는 SemRoute라는 프로젝트를 공유하고 싶었고 여러분의 피드백을 듣고 싶습니다. SemRoute는 벡터 임베딩을 사용하여 의미론적 의미에 따라 쿼리를 라우팅하는 의미론적 라우터입니다. 분류자를 훈련하거나 대규모 언어 모델을 사용할 필요 없이 유연하고 사용하기 쉽도록 설계되었습니다.

간단한 개요는 다음과 같습니다.

  • 여러 임베딩 모델 지원(OpenAI, MistralAI)
  • 맞춤형 임베딩 모델 지원
  • 동적 및 정적 임계값 제공
  • 다양한 채점 방법 허용(개별 평균, 중심)

GitHub(https://github.com/HansalShah007/semroute)에서 확인하실 수 있습니다. 개선 방법이나 적합하다고 생각되는 사용 사례에 대한 피드백이나 제안을 이 커뮤니티에서 보내주시면 정말 감사하겠습니다.
감사해요!

릴리스 선언문 이 기사는 https://dev.to/hansalshah/semantic-router-steer-llms-1l23?1에서 재현됩니다.
최신 튜토리얼 더>

부인 성명: 제공된 모든 리소스는 부분적으로 인터넷에서 가져온 것입니다. 귀하의 저작권이나 기타 권리 및 이익이 침해된 경우 자세한 이유를 설명하고 저작권 또는 권리 및 이익에 대한 증거를 제공한 후 이메일([email protected])로 보내주십시오. 최대한 빨리 처리해 드리겠습니다.

Copyright© 2022 湘ICP备2022001581号-3