중립

카카오, AI 학회서 LLM 최적화 기술 발표

2026.10.08

인공지능

카카오, 국제 AI 학회서 대규모 언어모델 최적화 기술 발표

10:00 발행

카카오는 전체 학습 비용의 1% 수준으로 최적 학습률을 예측하는 기법을 자체 개발 모델 카나나의 사전학습에 적용했습니다.
카카오는 바이트 기반 트랜스포머 구조를 도입해 파라미터 수를 최대 40.4% 줄이면서도 테스트 성능을 개선하는 경량화 성과도 함께 발표했습니다.
네이버는 가을 단풍철을 맞아 전국 301개 주요 산의 좌표 기준 초단기 예보를 제공하는 등산 테마날씨를 선보였습니다.