KT, AI 모델 통합 플랫폼 토큰팩토리 공개
KT는 27일 여러 국내외 인공지능 모델을 한곳에서 이용하고 사용량과 비용을 관리하는 플랫폼 ‘토큰팩토리’를 공개했다.
기업 고객 대상 서비스는 30일 시작하며, 초기에는 AI 모델 73종을 제공한다.
KT는 12월 오픈라우터와 연동해 모델을 500종 이상으로 늘릴 계획이라고 밝혔다.
질문에 맞춰 모델을 자동 선택하고 입력 내용을 압축해 토큰 비용을 줄이는 기능도 적용했다.
자세히
KT는 27일 서울 종로구 광화문 사옥에서 기자간담회를 열고 AI 플랫폼 토큰팩토리를 공개했다. 기업 고객 대상 서비스는 30일 시작한다.
플랫폼은 하나의 응용프로그램인터페이스(API)로 여러 AI 모델을 이용하도록 구성됐다. KT에 따르면 기업은 모델별 사용량과 비용을 확인하고 결제까지 통합 관리할 수 있다.
첫 출시 때 지원하는 모델은 73종이다. KT는 12월 중 글로벌 AI 모델 중개 플랫폼 오픈라우터와 연동해 이용 가능한 모델을 500종 이상으로 확대할 예정이라고 밝혔다.
KT가 자체 개발한 모델 라우터는 질문의 난이도와 필요한 답변 품질, 비용 등을 고려해 적합한 모델을 배정한다. 입력 문장에서 불필요한 표현을 줄이는 압축 기술도 적용했다.
KT는 프롬프트 압축으로 토큰 사용량을 약 20%, 모델 라우팅으로 약 5% 더 줄여 비용을 최대 25% 절감할 수 있다고 설명했다. 이 수치는 KT가 제시한 추정치다.
한국경제 보도에 따르면 KT는 일부 국내외 모델 7종을 자사 데이터센터에서 구동하고, 입력된 민감정보와 생성 답변을 점검하는 보안 기능도 적용했다. KT는 내년 3월 개인 개발자와 일반 이용자로 서비스를 확대할 계획이라고 밝혔다.
확인된 사실
- 공개일은 27일
- 기업 대상 서비스는 30일 시작
- 초기 지원 모델 73종
- 12월 500종 이상 연계 예정
- KT는 비용 최대 25% 절감 가능성을 제시
진행 과정
- 10.27 10:00 KT는 27일 국내외 인공지능 모델 500개 이상을 연결한 플랫폼 ‘토큰팩토리’를 공개했다.
- 10.27 16:10 출시 초기 제공 모델이 73종이며, 11월 500개 이상 모델을 연계하고 내년 3월 개인·개발자 대상 구독형 요금제를 도입할 계획이라는 내용이 추가됐다.
- 10.27 17:42 KT는 초기 지원 모델 73종을 제시하고 12월 오픈라우터 연동으로 500종 이상으로 확대할 계획이라고 밝혔다.
보도한 곳
조선일보 · 동아일보 · 매일경제 · 경향신문 · 한국경제 · 연합뉴스 · 연합뉴스TV · 뉴시스
여러 언론사의 보도를 바탕으로 정리한 글입니다. 자세한 내용은 각 언론사의 기사에서 볼 수 있습니다. 마지막 정리 10.27 17:42