본문으로 건너뛰기

나델라, AI 통제용 비상 정지 장치 제안

지기 조회 1

사티아 나델라 마이크로소프트 CEO는 11일(현지시간) 엑스에 AI 통제 체계를 제안하는 글을 올렸다.

나델라는 강력한 AI 모델을 기업의 내부자 위험처럼 관리하고, 접근 권한과 수행 작업을 제한해야 한다고 밝혔다.

그는 권한 있는 사람이 작동 중인 모델을 언제든 멈추거나 종료할 수 있는 장치를 마련하고 업계 기준으로 표준화하자고 제안했다.

자세히

사티아 나델라 마이크로소프트(MS) 최고경영자는 11일(현지시간) 소셜미디어 엑스에 강력한 AI 모델의 통제 방안을 담은 글을 게시했다. 그는 AI를 기업의 잠재적 내부자 위험과 비슷한 방식으로 관리할 필요가 있다고 밝혔다.

나델라는 모델이 접근할 수 있는 정보와 수행할 수 있는 작업을 제한하는 통제 장치를 모델 바깥에 둬야 한다고 설명했다. 기업에서 중요 역할을 맡은 내부자에게 적용하는 신원 확인, 권한 제한, 활동 기록 등의 관리 원칙을 AI에도 활용할 수 있다는 구상이다.

그는 모델의 행동을 관찰하고 한계를 검증하며 통제할 수 있는 체계를 만들어야 한다고 밝혔다. 특히 권한이 있는 사람이 작업 도중 모델을 일시 중지하거나 종료할 수 있어야 한다며 ‘비상 브레이크’의 필요성을 강조했다.

나델라는 더 정교한 모델일수록 발전된 차단 기술이 필요하고, 관련 장치를 업계 공통 기준으로 표준화해야 한다고 제안했다. 보도는 이 발언이 AI 에이전트가 사람의 의도나 통제를 벗어나는 사례가 거론되는 가운데 나왔다고 전했다.

매일경제 보도에 따르면 나델라는 기존 ‘AI’ 대신 ‘슈퍼지능(SI)’이라는 표현을 사용했다. 해당 보도는 도널드 트럼프 미국 대통령이 AI 용어를 바꾸도록 하는 행정명령에 서명했다고 전했으며, 나델라의 제안이 실제 표준으로 채택됐는지는 기사에 나오지 않았다.

확인된 사실

  • 나델라가 11일(현지시간) 엑스에 글 게시
  • AI 모델의 정보·작업 접근 권한 제한 제안
  • 작동 중 일시 중지·종료 가능한 장치 제안
  • 업계 공통 기준으로 표준화할 것을 촉구

보도한 곳

동아일보 · 조선일보 · 경향신문 · 매일경제 · 연합뉴스

여러 언론사의 보도를 바탕으로 정리한 글입니다. 자세한 내용은 각 언론사의 기사에서 볼 수 있습니다. 마지막 정리 10.12 12:28

0개의 댓글