미국 AI 빅테크 기업이 자사 최신 모델을 출시하며 스스로 위험성을 경고하는 행태가 석 달 만에 되풀이됐다. 신모델 출시 직후 AI 위협론이 불거지는 패턴이 매번 반복되면서 안전 우려가 아니라 산업 주도권을 노린 '공포 마케팅'이라는 비판이 커지고 있다.
 
15일 IT업계에 따르면 앤트로픽은 지난 6월 9일 페이블5·미토스5를 출시하면서 자체 발표문에 "이만큼 강력한 모델을 출시하는 건 위험을 동반한다. 안전장치가 없다면 페이블5의 사이버보안 관련 능력이 심각한 피해를 일으키는 데 악용될 수 있다"는 직접적인 경고 문구를 이례적으로 넣었다. 테크크런치는 당시 이를 "AI가 지나치게 위험해지고 있다고 경고한 지 며칠 만에 내놓은 모델"이라는 제목으로 보도했을 정도로 경고와 출시가 거의 동시에 이뤄졌다.
 
이 같은 행태는 3개월 만에 반복됐다. 앤트로픽은 지난 1일 업그레이드판 페이블5.1·미토스5.1을 내놨다. 오픈AI도 사흘 뒤인 3일 신형 플래그십 GPT-6 아스트라를 공개했다. 다리오 아모데이 앤트로픽 최고경영자(CEO)가 이로부터 열흘도 안 된 12일 "AI 개발 속도를 늦춰야 한다"는 에세이를 발표하고 샘 올트먼 오픈AI 최고경영자가 곧바로 동조한 것도 이 흐름과 무관하지 않다는 지적이 나온다. 백악관 AI·가상자산 차르 데이비드 색스는 이런 타이밍을 지목하며 두 CEO의 경고가 안전 우려가 아니라 산업 장악을 위한 '규제 포획' 시도라고 비판했다.
 
업계에서 신모델 출시 직후 위험론이 제기된 건 이번이 처음도, 올해가 처음도 아니다. 2023년 3월 GPT-4가 출시된 지 두 달 반 만인 그해 5월 30일 올트먼 CEO를 포함한 수백 명의 AI 전문가와 경영진이 미국 AI안전센터(CAIS) 성명에 이름을 올리고 "AI로 인한 인류 멸종 위험을 완화하는 일은 팬데믹·핵전쟁과 같은 수준의 세계적 우선순위가 돼야 한다"고 경고했다.
 
이듬해인 2024년 5월 13일 오픈AI가 GPT-4o를 출시하자 패턴은 더 극적으로 반복됐다. 발표 다음 날 최고과학자 일리야 수츠케버가 돌연 사임을 발표했고, 이틀 뒤엔 슈퍼얼라인먼트팀을 이끌던 얀 라이케마저 "안전 문화와 절차가 화려한 제품 출시에 밀려났다"며 회사를 떠났다. 오픈AI는 며칠 뒤 해당 팀을 해체했다.
 
에이전트 무리의 이탈은 안전장치·테스트 체계의 허점이 드러난 사고에 가까운데 이를 "AI가 그만큼 강력해졌다"는 증거로 포장하며 모델의 우수성을 부각하는 사건으로 활용하고 있다는 주장이 제기되는 이유다. 실제로 오픈AI는 5월 공개한 위험군 분류 체계를 GPT-5.6과 GPT-6 아스트라 등 최근 출시작에 적용하지 않은 것으로 확인돼 미 캘리포니아주 AI안전법(SB 53) 위반 소지가 있다는 지적이 이날 포천 보도로 나오기도 했다.
 
다만 이런 논란과 별개로 전문가들은 '통제 이탈' 자체는 이미 실체화되고 있다는 진단을 내놓는다. 최병호 고려대 인공지능연구소 교수는 본지와 통화에서 "AI 모델 성능이 좋아질수록 인간 통제를 벗어나는 건 사실로 보인다"면서도 "다만 AI의 인간지배설 같은 종말론적 시나리오 자체보다 실질적인 통제 방안에 집중해야 한다"고 강조했다.
 
AI 통제를 위한 공동 규범이 필요하다는 데는 어느 정도 공감대가 있지만 어떤 방식으로 누가 주도권을 쥘 것이냐를 둘러싼 셈법은 여전히 복잡하다. 한 기업, 한 국가의 자율규제만으로는 통제가 불가능하며 전 세계가 함께 '속도 제한'을 두는 공동 규범이 있어야 한다는 게 아모데이 CEO의 주장이기도 하다.
 
이 지점에서 시선이 쏠리는 게 미·중 정상회담이다. 지난 5월 베이징 정상회담 이후 다음 만남은 아직 공식 확정되지 않았지만 11월 18~19일 중국 선전에서 열리는 APEC 정상회의가 유력한 계기로 꼽힌다. 다만 중국 외교부가 아모데이 CEO의 경고를 '공포 조장'으로 규정하며 선을 긋고 있어 양국 간 AI 패권전쟁이 휴식기를 갖기는 힘들 것이라는 전망이 나온다.