금융보안원, 금융권 AI 에이전트 평가기준 마련

지기 1시간 전 조회 0

금융보안원이 금융권 AI 에이전트의 보안 평가기준을 마련했다고 7일 밝혔다.

기준은 데이터·모델 오염과 추출, 회피 공격 대응 등을 포함한다.

연합뉴스는 5개 분야 17개 항목이라고 보도했고, 뉴시스는 6개 분야 17개 항목이라고 전했다.

금융보안원은 올해 시범 검증을 거쳐 내년 정식 점검기준으로 확대할 계획이다.

금융보안원은 7일 금융회사가 사용하는 인공지능(AI) 에이전트의 보안 평가기준을 마련했다고 밝혔다. AI 에이전트는 목표를 받아 스스로 작업 순서를 정하고 도구나 외부 시스템을 활용해 업무를 수행하는 시스템이다.

금융보안원은 에이전트가 권한을 넘어 정보를 다루거나 의도하지 않은 작업을 실행할 위험에 대비해 기준을 만들었다고 설명했다. 뉴시스는 백신 프로그램을 임의로 중단하거나 이메일 처리 권한으로 비밀번호를 바꾸는 상황을 가능한 사례로 들었다.

기준은 데이터 오염, 모델 오염, 데이터·모델 추출, 회피 공격 대응과 에이전트 보안 등을 다룬다. 연합뉴스는 5개 분야 17개 항목이라고 보도한 반면, 뉴시스는 6개 분야 17개 항목이라고 전해 분야 수에 차이가 있다.

금융보안원은 해당 기준을 금융회사 대상 AI 레드티밍에 적용할 예정이다. 레드티밍은 공격자 관점에서 취약점을 찾아 대응 체계를 확인하는 모의 점검 방식이라고 연합뉴스는 설명했다.

뉴시스에 따르면 금융보안원은 올해 말까지 시범 검증을 진행하고, 금융회사별 구현 방식과 점검 결과를 반영해 기준을 보완할 계획이다. 내년에는 정식 점검기준으로 확대 적용할 예정이다.

금융보안원은 올해 AI 레드팀 보고서에 확인된 위협과 공격 기법, 최종 평가기준을 공개할 예정이라고 밝혔다. 보도에 담긴 기준의 분야 수는 자료 간 차이가 있으며, 최종 확정 내용은 보고서 공개 전까지 확인되지 않았다.

여러 언론사의 보도를 바탕으로 정리한 글입니다. 자세한 내용은 각 언론사의 기사에서 볼 수 있습니다. 마지막 정리 10.07 15:22

오늘의 소식