AI개발자들 "AI, 핵전쟁 만큼 위험…인류 멸종 막아야" 경고

[이데일리 박종화 기자] 챗GPT 개발사 오픈AI의 샘 올트먼 최고경영자(CEO) 등 인공지능(AI) 업계 거물들이 AI의 위험성을 핵전쟁에 빗대며 대응 방안을 마련해야 한다고 촉구했다.

샘 올트먼 오픈AI 최고경영자(CEO).(사진=AFP)

30일(현지시간) 뉴욕타임스(NYT)에 따르면 비영리단체 AI안전센터는 “AI로 인한 (인류) 멸종 위험을 줄이는 것은 핵전쟁·팬데믹(전염병 대유행) 등 다른 사회적 위험처럼 전 세계 차원의 최우선 의제가 돼야 한다”는 한 문장짜리 성명을 냈다. 성명엔 올트먼 CEO를 포함해 데미스 허사비스 구글 딥마인드(알파고 개발사) CEO, 다리오 아모데이 앤스로픽 CEO 등 AI 업계 관계자 350여명이 이름을 올렸다.

AI안전센터는 “AI에서 비롯된 중대하고 시급한 위험에 대한 논의가 AI 전문가와 언론인, 정책 입안자, 대중 사이에서 점차 확대되고 있다”며 “(이번 성명은) 많은 전문가와 대중이 첨단 AI의 가장 치명적인 위험성을 심각하게 생각하고 있다는 걸 알리기 위한 것”이라고 설명했다. 댄 핸드릭스 AI안전센터 이사는 “이번 성명은 개인적으로만 자신들이 개발 중인 기술의 위험성을 우려하던 AI 업계 핵심들이 공개적으로 우려를 ‘커밍아웃’한 것”이라고 했다.

최근 미국에선 정치권은 물론 AI 업계에서도 AI 기술에 대한 통제를 강화해야 한다는 목소리가 커지고 있다. 이번 성명에 서명한 올트먼 CEO와 허사비스 CEO, 아모데이 CEO만 해도 이달 초 백악관에서 카멀라 해리스 미 부통령과 만나 AI의 위험성을 줄일 방안을 논의했다.

올트먼 CEO는 미 의회 청문회 등에서 국제원자력기구(IAEA)와 같은 국제기구를 만들어 전 세계적으로 AI 통제를 강화해야 한다고 강조한 바 있다. 브래드 스미스 마이크로소프트 부회장은 28일 CBS 방송에 출연해 “2024년 대선을 앞두고 내년에 실질적인 가드레일(안전장치)을 마련할 가능성이 있다고 본다”고 말했다. 그는 특히 생성형 AI(이용자 요구에 맞춰 이미지 등 콘텐츠를 생성하는 AI)로 만든 콘텐츠에 워터마크 등을 붙여 딥페이크(AI를 이용해 만든 진짜 같은 가짜 이미지·영상)가 사기 등에 악용되는 걸 막아야 한다고 주장했다.