Hyperconnect Tech Blog기업1부: 데이터도 정답도 없다: 하이퍼커넥트가 LLM을 길들이는 법
정답 데이터가 없는 open-ended generation 문제에서, 하이퍼커넥트가 설명 생성 정책과 평가 기준을 어떻게 수립했는지 소개합니다.
Hyperconnect Tech Blog
기업최근 글
- Hyperconnect Tech Blog기업
- Hyperconnect Tech Blog기업
2부: 정책을 따르는 평가자, LLM-as-a-Judge
사람이 만든 설명 정책을 LLM Judge로 구조화해 평가 자동화, 디버깅, 데이터 정제에 활용한 과정을 소개합니다.
- Hyperconnect Tech Blog기업
온디바이스 AI 얼굴 식별 파이프라인 최적화
온디바이스 환경에서 AI 얼굴 식별 파이프라인을 최적화하는 방법을 소개합니다.
- Hyperconnect Tech Blog기업
비즈니스 문제를 AI 문제로 정렬하는 방법
최적화 이론의 완화(relaxation) 개념을 비즈니스 문제에 적용하여, 비즈니스 문제를 AI 문제로 정렬하는 방법을 소개합니다.
- Hyperconnect Tech Blog기업
왜 막상 배포하면 효과가 없지? 타겟 지표에 맞는 ML모델 train/eval 설계하기
실제 비즈니스 목표를 최적화하기 위해 머신러닝 모델의 타겟 메트릭을 정하는 방법을 소개합니다.
- Hyperconnect Tech Blog기업
클릭 한 번으로 실험 시작! 이터레이션 사이클을 단축하는 추천 실험 시스템 개발기
아자르에서 ML 실험을 빠르고 효율적으로 하기 위해 개발한 시스템을 소개하고, 이를 통해 실험 프로세스가 어떻게 개선되었는지 살펴봅니다.
- Hyperconnect Tech Blog기업
1:1 비디오 채팅 서비스는 E2E 회귀 테스트를 어떻게 자동화할까?
1:1 비디오 채팅이 핵심기능인 아자르에서 End to End 회귀 테스트를 자동화하기 위해 고민했던 내용들을 소개합니다.
- Hyperconnect Tech Blog기업
AI 실시간 추천 시스템을 위한 Flink 기반 스트림 조인 서비스 구축기
Azar의 AI 기반 실시간 매칭 시스템을 위해 Flink KeyedProcessFunction을 활용한 스트림 조인 서비스 구축 경험을 공유합니다. 실시간 이벤트 조합, 무중단 배포, Exactly Once Semantics 보장 등 Azar의 추천 시스템을 위한 기술적 도전과 해결 방안을 소개합니다.
- Hyperconnect Tech Blog기업
Building Resilient, High Performance ScyllaDB Clusters with Super Disk
Hyperconnect가 ScyllaDB의 복구 시간을 20배 단축하고 데이터 안정성을 획기적으로 개선한 Super Disk 구성 전략을 소개합니다. Local NVMe와 EBS의 RAID 구성으로 성능은 유지하면서 장애 복구 시간을 대폭 단축한 기술적 여정과 검증 결과를 공유합니다.
- Hyperconnect Tech Blog기업
Apache Flink 어플리케이션의 End-to-End Latency 병목 찾아내기
Flink 어플리케이션에서 end-to-end latency를 줄이기 위해 operator 단위로 지표를 수집하고 flame graph를 이용해 병목 지점을 찾아내는 과정을 소개합니다.