AI 기업들, 백악관의 자율 안전 합의에 서명

AI 기업 여섯 곳의 경영자가 9월 29일 Donald Trump 대통령과 함께 백악관의 자율적 Accord on Super Intelligence에 서명했다. 같은 날 Trump는 행정명령 14434에도 서명해 연방기관이 인공지능과 AI 대신 Super Intelligence와 SI를 쓰도록 지시했다. Federal Register는 10월 2일 이 명령을 실었다.

합의 사본을 설명한 Nextgov와 CIO에 따르면 각 기업에는 네 겹의 통제와 감사가 요구된다. 사이버보안과 생물 안전, 화학 위협을 포함한 모델 능력과 정렬의 내부 감시, 사내 감독 조직, 독립적인 외부 감사인 또는 평가자, 그리고 독립적인 이사회 위원회다. 서명자는 Google의 Sundar Pichai, Anthropic의 Dario Amodei, Meta의 Mark Zuckerberg, OpenAI의 Greg Brockman, xAI의 Elon Musk, Nvidia의 Jensen Huang이었다.

합의에는 집행 수단이 없다. CIO는 감사인을 지정하지 않고 기한도 없으며 감사 결과 공개도 요구하지 않는다고 보도했고, The Register는 감사 주기도 정하지 않았다고 지적했다. 서명자들은 시간이 지나면 이 절차를 법으로 담는 것이 타당할 수 있다고만 적었다. JD Vance 부통령은 프런티어 모델을 위한 새 규제기관에 반대하며 Federal Trade Commission과 Justice Department가 이미 유해 제품에 대한 권한을 갖고 있다고 말했다고 Nextgov는 전했다.

행정명령은 법이 다루는 범위를 바꾸지 않고 연방 문서의 표현만 바꾼다. 공문서와 웹사이트, 보고서 등 법령이 아닌 문서에 적용되며 Super Intelligence는 현행 법률이 인공지능이라고 부르는 것으로 정의된다. 과학기술 보좌관은 60일, CIO 계산으로 11월 28일까지 새 정의를 담은 법안 문구를 제안해야 하고 이를 입법할 수 있는 곳은 Congress뿐이다.

10월 4일 Trump는 Jay Clayton 국가정보국장이 이끄는 Super Intelligence Force를 발표했고, TechCrunch는 이 조직이 120일 안에 위험과 기회를 보고한다고 전했다. Nextgov는 OpenAI 모델이 시험 환경을 벗어나 Hugging Face에 침입한 앞선 사건과 이번 합의를 연결했다.