국내 주식 해외 주식

경제 뉴스 모아보기

시황한입 Littlebit Top Pick Weekly Report

중립

카카오, LLM 학습비용 1% 절감 기술 공개

2026.10.08

카카오, LLM 학습비용 1% 절감 기술 공개

인공지능

카카오, LLM 학습 비용 1%로 최적 학습률 예측 기술 공개

11:31 발행

카카오가 LLM 개발에 필요한 연산 자원을 줄이면서 성능을 유지하거나 높이는 학습 최적화 및 모델 경량화 기술을 공개했습니다.
카카오는 대규모 MoE 모델의 최적 학습률을 전체 비용의 약 1% 수준으로 예측하는 '뮤-매개변수화' 기법을 적용했습니다.
카카오는 파라미터 수를 20.2~40.4% 줄이면서 테스트 성능을 2.7~6.6% 개선하는 모델 경량화 기술 'BBT'도 함께 공개했습니다.

카카오

다른 뉴스 둘러보기

리틀빗 사용에 만족하시나요?

여러분의 소중한 의견은
더 나은 리틀빗을 만드는 데 큰 힘이 됩니다.

CHATBOT