뉴욕주에서 인공지능(AI) 기술의 책임감 있는 개발과 사용을 위한 획기적인 법안, 일명 ‘RAISE Act(Responsible AI Safety and Education Act)’가 입법의 마지막 관문 앞에서 뜨거운 논쟁에 휩싸였습니다. 150명 이상의 부모들이 캐시 호컬 뉴욕 주지사에게 법안 원안 통과를 촉구하는 서한을 보내며, AI가 초래할 수 있는 잠재적 위험에 대한 사회적 경고를 보냈습니다. 이는 AI 시대의 도래와 함께 불가피하게 수면 위로 떠오른 ‘혁신과 규제’라는 해묵은 딜레마를 다시금 상기시키는 사건입니다.
RAISE Act의 본질과 부모들의 목소리
RAISE Act는 메타, 오픈AI, 딥시크, 구글과 같은 거대 AI 모델 개발사들에게 안전 계획 수립과 안전 사고 보고에 대한 투명성 규칙 준수를 의무화하는 내용을 담고 있습니다. 뉴욕주 상원과 하원을 모두 통과했지만, 호컬 주지사가 돌연 법안 내용을 빅테크 기업에 유리하도록 대폭 수정할 것을 제안했다는 보도가 나오면서 논란의 불씨가 지펴졌습니다. 이는 과거 캘리포니아의 SB 53 법안이 빅테크 기업의 압력으로 수정된 전례를 연상케 합니다. ‘ParentsTogether Action’과 ‘Tech Oversight Project’는 호컬 주지사에게 보낸 서한에서 일부 서명자들이 AI 챗봇과 소셜 미디어의 해악으로 자녀를 잃었다는 비극적인 경험을 공유하며, 현 RAISE Act를 ‘최소한의 안전장치(minimalist guardrails)’라고 표현했습니다. 그들은 이 법안이 대규모 AI 개발사에만 적용되며, 주요 안전 사고를 법무장관에게 공개하고 안전 계획을 발표하도록 의무화하는 등 기본적인 안전망 역할을 할 것이라고 강조했습니다.
빅테크의 반발과 로비 활동
예상대로 AI 기업들은 이 법안에 강력히 반대하고 있습니다. 메타, IBM, 인텔, 오라클 등을 회원사로 둔 AI Alliance는 RAISE Act가 ‘실현 불가능하다(unworkable)’며 심각한 우려를 표명했습니다. 또한 Perplexity AI, Andreessen Horowitz(a16s) 등 AI 지지자들이 후원하는 슈퍼 PAC인 ‘Leading the Future’는 RAISE Act의 공동 발의자인 뉴욕주 의원 알렉스 보어스를 표적으로 한 광고를 내보내는 등 적극적인 로비 활동을 펼치고 있습니다. 부모들의 서한은 이러한 빅테크의 움직임을 ‘회피와 도피의 익숙한 패턴’으로 규정하며, 투명성이나 책임감 없이 알고리즘 기반 소셜 미디어 플랫폼을 밀어붙였던 과거의 과오를 답습하고 있다고 비판했습니다.
‘치명적 위험’의 정의가 제시하는 AI 윤리 지형
RAISE Act의 핵심 조항 중 하나는 ‘합리적이지 않은 치명적 위험(unreasonable risk of critical harm)’을 초래할 경우, 최첨단 AI 모델 출시를 금지하는 내용입니다. 이 ‘치명적 위험’의 정의는 법안의 실질적인 파급력을 결정짓는 중요한 요소입니다. 구체적으로 100명 이상의 사망 또는 중상해, 화학·생물학·방사능·핵무기 생성으로 인한 10억 달러 이상의 금전적 또는 재산상 피해, 그리고 ‘의미 있는 인간 개입 없이’ 특정 범죄를 저지를 수 있는 AI 모델 등이 포함됩니다. 이는 AI가 단순한 기술을 넘어 사회에 심대한 영향을 미칠 수 있음을 인식하고, 인명과 재산, 그리고 국가 안보에 미칠 수 있는 잠재적 위협에 대한 구체적인 경계를 설정하려는 시도로 해석됩니다.
에디터의 시선
뉴욕 RAISE Act를 둘러싼 논란은 비단 뉴욕만의 문제가 아닙니다. 이는 전 세계적으로 AI 기술이 급격히 발전하면서 각국 정부가 직면하고 있는 공통된 과제, 즉 ‘AI 거버넌스’의 축소판입니다. 우리는 이미 소셜 미디어 플랫폼이 사회에 미친 막대한 영향을 목격했으며, 투명성과 책임감 없는 기술 도입이 젊은 세대의 정신 건강과 사회 기능에 얼마나 광범위한 피해를 주었는지 잘 알고 있습니다. 이러한 ‘빅테크의 회피 패턴’이 AI 분야에서 재연될 조짐을 보이는 것은 매우 우려스러운 지점입니다.
물론 혁신을 저해하는 과도한 규제는 경계해야 합니다. 하지만 RAISE Act에서 제시하는 ‘최소한의 안전장치’와 ‘치명적 위험’에 대한 정의는 AI 기술의 잠재적 위험에 비추어 볼 때 결코 과도하다고 보기 어렵습니다. 특히 ‘인간 개입 없는 자율적인 범죄’ 가능성을 언급하는 부분은 AI의 윤리적 책임 범위를 어디까지 확장해야 하는지에 대한 근본적인 질문을 던집니다. AI 기술이 인류의 편의를 넘어 인류의 존재를 위협할 수 있는 수준으로 진화하고 있는 지금, 개발사의 자율 규제에만 기댈 수는 없습니다. 투명한 정보 공개와 명확한 안전 기준은 혁신을 저해하는 것이 아니라, 오히려 AI 기술에 대한 대중의 신뢰를 구축하고 장기적인 성장을 가능하게 하는 필수적인 토대입니다. 호컬 주지사의 최종 결정은 뉴욕주의 AI 정책 방향뿐만 아니라, 향후 글로벌 AI 규제 논의에도 중요한 선례를 남길 것입니다. AI 기술의 ‘황금알’ 뒤에 숨겨진 ‘잠재적 위험’을 얼마나 현명하게 관리하느냐가 우리 시대 최고의 숙제가 될 것입니다.