Athina AI

LLM을 모니터링하고 프로덕션에서 할루시네이션 자동 감지

• 한 줄 소개

  개발자가 프로덕션 환경에서 LLM을 모니터링하고 평가할 수 있도록 지원하는 오픈 소스 웹 서비스

• 핵심 기능

  비용, 토큰 사용량 등과 같은 사용 메타데이터 로그 제공. GraphQL 지원. 검색 점수 등 40+개 평가 지표 라이브러리 제공. 모델, 프롬프트 및 주제별로 성능 비교. 다양한 프롬프트 및 모델 조합을 실험할 수 있는 플레이그라운드 제공. 협업 지원.

• 지원 플랫폼

  웹 전용

• 가격 정책

  무료 플랜 제공. 현재는 베타 테스트 중

• Artificial Intelligence