앤트로픽 전 연구원, 뉴욕시의회서 AI 위험 경고

지기 58분 전 조회 0

앤트로픽을 떠난 연구원 제이컵 콕슨은 5일(현지시간) 뉴욕시의회 인공지능 청문회에서 AI 통제의 어려움을 증언했다.

콕슨은 현재의 개발 방식이 이어지면 인류가 AI 통제권을 잃을 가능성이 크며, 극단적으로는 인류 멸종으로 이어질 수 있다고 주장했다.

그는 최첨단 AI 모델 개발 속도를 늦춰야 한다고 촉구했다.

청문회에는 오픈AI·앤트로픽·구글·메타 관계자도 참석했고, 뉴욕시의회는 외부 검증과 사람이 시스템을 중단하는 방안 등을 검토하고 있다.

스페이스X AI 부문은 소환장을 받고도 참석하지 않았으며, 시의회는 소환장 집행을 법원에 요구할 방침이라고 밝혔다.

앤트로픽을 퇴사한 연구원 제이컵 콕슨은 5일(현지시간) 미국 뉴욕시청에서 열린 뉴욕시의회 인공지능 청문회에 출석했다. 그는 AI 개발의 위험성과 통제 문제에 관해 증언했다.

콕슨은 아직 AI 시스템을 통제하는 방법을 알지 못한다며, 현재의 개발 경로가 계속되면 인류가 AI 통제권을 잃을 가능성이 더 크다고 주장했다. 그는 그런 상황이 극단적으로 인류 멸종으로 이어질 수 있다고 말했다.

콕슨은 기업들이 빠른 개발을 우선하는 접근을 비판하고, 최첨단 모델의 개발 속도를 늦출 필요가 있다고 촉구했다. 그는 지난달 앤트로픽을 떠나며 앤트로픽과 오픈AI가 위험을 감수하고 있다는 취지의 비판을 한 바 있다.

청문회는 AI 관련 규제 법안을 추진 중인 줄리 메닌 뉴욕시의회 의장의 요구로 열렸다. 메닌 의장은 기업의 자율 규제만으로는 충분하지 않다는 입장을 밝혔다.

오픈AI·앤트로픽·구글·메타 관계자들이 화상으로 청문회에 참석했다. 앤트로픽과 오픈AI 관계자는 규제에 열린 태도를 보였다고 보도됐으며, 구체적인 입법안의 최종 내용이나 처리 일정은 기사에 제시되지 않았다.

스페이스X AI 부문은 소환장을 받고도 참석하지 않았다. 뉴욕시의회는 불출석과 관련해 법원에 소환장 집행을 요구할 방침이라고 밝혔다.

뉴욕시의회는 AI 시스템의 외부 검증과 사람이 시스템을 중단할 수 있는 이른바 킬 스위치 도입 등을 담은 규제안을 검토하고 있다. 콕슨의 발언은 위험에 대한 그의 전망이며, 기사들은 AI 통제 상실이나 인류 멸종이 실제로 임박했음을 확인한 것은 아니다.

10.06 07:32 앤트로픽을 떠난 연구원 제이콥 콕슨이 5일(현지시간) 미국 뉴욕시의회 청문회에 참석했다.
10.06 10:58 청문회에는 주요 AI 기업 관계자들이 참석했으며, 뉴욕시의회는 외부 검증·킬 스위치 규제안을 검토하고 스페이스X AI 부문에 대한 소환장 집행을 법원에 요구할 방침이다.

여러 언론사의 보도를 바탕으로 정리한 글입니다. 자세한 내용은 각 언론사의 기사에서 볼 수 있습니다. 마지막 정리 10.06 10:58

오늘의 소식