뉴욕타임스(NYT)는 28일(현지시간) 캘리포니아주 하원이 AI 규제를 위한 ‘SB1047’ 법안을 찬성 49표, 반대 1표로 통과시켰다고 전했다. 법안은 주 상원으로 전달되지만 상원은 이미 한 차례 법안에 찬성 의사를 밝힌 만큼 수정안 검토를 마친 후 주지사 서명 절차로 넘길 것으로 전망된다. 주요 외신은 주 의회가 AI 규제안을 통과시키면서 개빈 뉴섬 캘리포니아 주지사가 AI 규제 결정권을 쥐게 됐다고 평가했다. 주지사가 다음달 30일까지 최종 승인 여부를 결정하면 법안은 효력이 생긴다. 뉴섬 주지사는 아직 법안 지지 여부를 밝히지 않았다.
이 법안의 골자는 ‘AI 안전성 시험 의무화’다. 법안에 따르면 빅테크가 강력한 AI 기술을 대중에게 공개하기 전에 안전성을 시험하는 것이 필수다. 주 법무부 장관은 AI 시스템이 인명 사망 또는 5억달러(약 6678억원)에 이르는 재산 피해 같은 ‘중대한 피해’를 일으키면 기업을 고소할 수도 있다. AI 개발자는 AI 모델이 잘못될 경우 끄는 방법인 ‘킬 스위치’(kill switch·비상정지) 기능을 넣어야 하며, 5년 동안 안전 및 보안 프로토콜의 편집되지 않은 사본을 보관해야 한다. 법안은 제3자 감사 인력을 고용해 AI 회사의 안전 관행을 평가하도록 의무화했고, AI 문제를 고발하려는 직원에 대해 내부 고발자 보호 조치를 마련하도록 하는 내용도 담았다. 이 때문에 앞서 콜로라도와 유타주에서 통과된 AI 규제법보다 강력하다는 평가를 받는다.
법안 발의자인 민주당 소속 스콧 위너 캘리포니아주 상원의원은 이날 성명을 통해 “주 의회는 신기술이 발전함에 따라 대중의 이익을 보호할 수 있도록 하는 역사적 조치를 취했다”고 했다. 그는 “이 법안이 빅테크와 경쟁하려는 소규모 스타트업에는 영향을 미치지 않을 것”이라고 주장했다. 해당 법안이 개발 비용이 1억달러(약 1335억원)를 넘거나 일정 정도 이상 전력이 필요한 AI 모델만 안전 테스트를 의무화한다는 점에서다.
빅테크가 처벌을 두려워해 더 이상 AI 모델을 오픈소스 방식으로 개발하지 않을 수 있다는 의견도 나온다. 오픈소스란 개발자가 코드를 공개한 소프트웨어를 뜻한다. 오픈소스는 AI 발전을 이끈 주역으로 평가받는다. 크리스 니콜슨 페이지원벤처스 파트너는 “오픈소스 소프트웨어 커뮤니티는 여전히 이것이 AI 개발에 방해가 될 것이라는 우려를 갖고 있다”고 NYT에 말했다.
하지만 xAI, 앤스로픽 등 일부 AI 기업은 찬성 의견을 냈다. AI 스타트업 xAI를 이끄는 일론 머스크 테슬라 최고경영자(CEO)는 27일 “20년 이상 AI 규제를 옹호해왔다”며 “대중에게 잠재적으로 위험할 수 있는 제품 및 기술을 규제하는 것과 마찬가지”라고 했다.
김세민 기자 unijade@hankyung.com