본문으로 건너뛰기

얀 르쿤, AI 안전은 공학적 과제라고 밝혀

지기 조회 0

얀 르쿤 AMI랩스 회장은 12일 서울에서 열린 기자간담회에서 AI가 갑자기 인류를 장악한다는 전망을 공상과학에 비유했다.

그는 AI 안전을 설계와 검증으로 다룰 수 있는 공학적 문제라고 말했다.

르쿤 회장은 언어모델의 통제에는 한계가 있다며, 실제 행동 단계에서 안전 제약을 적용하는 방안을 제시했다.

그는 현실 세계를 이해하고 행동 결과를 예측하는 월드모델이 차세대 AI의 핵심이 될 것으로 전망했다.

자세히

얀 르쿤 AMI랩스 회장은 12일 서울 중구 웨스틴조선에서 열린 ‘산업 AI 글로벌 협력’ 기자간담회에 참석했다. 르쿤 회장은 AI 통제와 안전, 기술 발전 방향 등에 대한 견해를 밝혔다.

르쿤 회장은 초인간적 AI가 갑자기 등장해 세계를 장악한다는 주장은 공상과학에 가깝다고 말했다. AI 발전은 한 번의 발견으로 이뤄지기보다 여러 기술 혁신이 쌓이는 점진적 과정이라는 설명이다.

그는 현재 언어모델이 사전에 위험한 답변을 하지 않도록 훈련되는 방식만으로는 한계가 있다고 지적했다. 질문 형태가 무한해 모든 위험 상황을 미리 학습시킬 수 없고, 이 때문에 이른바 탈옥 공격에 취약할 수 있다는 것이다.

대안으로는 세계의 작동 방식을 이해해 행동 결과를 예측하고, 실행 단계에서 안전 규칙을 적용하는 ‘목표 기반 AI’ 구상을 소개했다. 다만 월드모델이 현실을 잘못 이해하면 안전 판단에도 오류가 생길 수 있어 예측 정확도를 높이는 일이 과제로 남는다고 설명했다.

르쿤 회장은 언어모델이 언어로 정리된 지식을 다루는 데 강점이 있지만, 현실 세계를 이해하고 행동하는 데는 한계가 있다고 진단했다. 차세대 AI에는 현실의 상태와 작동 원리를 예측하는 월드모델이 중요해질 것이라고 전망했다.

연합뉴스 보도에 따르면 그는 한국의 제조 역량과 산업 전문성을 AI 생태계와 연결할 수 있다고 평가하면서, 해외 연구자를 유치할 개방적인 연구 환경의 필요성도 언급했다. 간담회에서 제시된 전망과 제안은 르쿤 회장의 견해이며, 관련 기술의 안전성이나 발전 방향이 확정된 것은 아니다.

확인된 사실

  • 간담회는 12일 서울에서 열림
  • 발언자는 얀 르쿤 AMI랩스 회장
  • AI 안전을 공학적 과제로 설명
  • 언어모델 통제의 한계를 지적
  • 행동 단계의 안전 제약과 월드모델을 제안

보도한 곳

경향신문 · 뉴시스 · 연합뉴스

여러 언론사의 보도를 바탕으로 정리한 글입니다. 자세한 내용은 각 언론사의 기사에서 볼 수 있습니다. 마지막 정리 10.12 15:30

0개의 댓글