"기밀 새나갈라"…팔란티어·엔비디아, AI 모델 사용 제동

[이데일리 방성훈 기자] 인공지능(AI)을 가장 열심히 쓰던 미국 대형 기업들이 되레 사용을 제한하고 나섰다. 자사 기밀이 AI 회사 쪽으로 흘러갈 수 있다는 우려에서다.

(사진=AFP)

로이터통신은 14일(현지시간) 디인포메이션을 인용해 팔란티어테크놀로지스와 엔비디아, 부즈앨런해밀턴 등은 앤스로픽과 오픈AI가 자사 지식재산을 오남용하지 않겠다고 보증하지 않는 한 첨단 AI 모델 사용을 제한하거나 중단할 수 있다고 보도했다.

사안에 정통한 한 소식통에 따르면 팔란티어는 앤스로픽이 데이터를 전혀 남기지 않겠다고 취소 불가능한 형태로 보증하기 전까지 자사 소프트웨어를 통해 앤스로픽 모델을 제공하지 않겠다는 입장을 내비쳤다.

엔비디아의 경우 앤스로픽 모델을 덜 민감한 업무에만 쓰고 내부 작업은 자체 모델인 네모트론에 맡기고 있다. 부즈앨런해밀턴은 직원들이 고객사 사이버보안 업무에 앤스로픽 상용 모델을 쓰지 못하도록 금지했다.

발단은 앤스로픽이 지난 6월 페이블 모델 정책을 바꾼 일이다. “복잡하고 새로운 공격”에 대비한다며 사용 기록을 30일간 보관할 권리를 갖게 되자 고객사들이 반발했다. 오픈AI도 수학 문제를 푸는 데 도움을 얻으려고 사용자 데이터로 모델을 학습시켰을 수 있다는 주장이 제기되며 비슷한 의심을 받고 있다.

두 회사는 고객이 동의하지 않는 한 고객 데이터로 학습하지 않는다는 입장이다. 다만 제품 개선을 위해 누구 것인지 알 수 없게 처리한 정보는 모은다고 밝혔다.

이 틈을 파고드는 곳도 있다. 마이크로소프트(MS)는 외부와 분리된 클라우드 환경과 자체 AI 제품을 앞세워 고객을 끌어오고 있다고 디인포메이션은 전했다.

이번 사안은 AI 개발 속도를 늦춰야 한다는 주장이 잇따르는 가운데 불거졌다. 다리오 아모데이 앤스로픽 최고경영자(CEO)는 지난 12일 AI 성능이 연구자들이 이해하거나 통제할 수 있는 속도보다 빠르게 발전하고 있다며 개발 속도를 늦추자고 요구했고, 샘 올트먼 오픈AI CEO와 일론 머스크 스페이스X CEO가 곧바로 지지했다.

팔란티어와 엔비디아, 부즈앨런해밀턴, 앤스로픽, 오픈AI는 로이터통신의 논평 요청에 즉각 답하지 않았다.