앤스로픽(Anthropic) CEO 다리오 아모데이(Dario Amodei)는 AI 개발 속도를 늦춰 안전장치 구축 및 규제 평가 시간을 확보해야 한다고 주장하며, 제3자 평가 기관에 모델 접근권을 부여하는 계획을 발표했습니다. 이와 동시에, 초파리 뇌 커넥톰을 활용한 새로운 ‘초파리 언어 모델(FLM)’이 개발되었으나, 표준 모델 대비 성능 향상을 입증하지 못했습니다.
핵심 기술 사양 및 성능 분석: 초파리 언어 모델(FLM)
초파리 언어 모델(FLM)은 액체AI(LiquidAI)의 LFM2.5-1.2B-Instruct 백본 모델에 수컷 초파리의 완전한 MaleCNS v1.0 커넥톰 데이터를 결합한 공개 챗봇입니다. 이 모델은 ‘GPF(Generative Pre-trained Fly)’ 아키텍처를 기반으로 하며, 생물학적 신경망 구조를 AI에 통합하려는 시도를 보였습니다.
- 결합된 데이터 구조: MaleCNS v1.0 초파리 뇌 그래프에서 추출된 166,700개의 노드와 25,582,938개의 지향성 엣지가 모델에 통합되었습니다.
- 파라미터 규모: FLM은 278,528개의 파라미터로 구성된 리드아웃(readout) 레이어를 훈련했으며, 이는 1,170,340,608개의 백본 파라미터 중 약 0.0238%에 해당합니다.
- 성능 지표 (NLL): SmolTalk 대화 데이터셋에서 측정된 손실 값(NLL, nats/token)은 다음과 같습니다.
- 고정 백본 모델: 1.381995 NLL
- 초파리 리드아웃 모델: 1.359816 ± 0.000110 NLL
- 직접 입력 리드아웃 제어 모델: 1.359328 ± 0.000108 NLL
- 성능 분석: 초파리 리드아웃 모델은 고정 백본 대비 0.0222 nats/token의 NLL 개선(perplexity 3.98에서 3.90으로 향상)을 보였습니다. 그러나 커넥톰 그래프를 사용하지 않고 동일한 입력 채널을 직접 공급한 제어 모델이 초파리 리드아웃 모델보다 0.000488 nats/token 더 낮은 NLL을 기록, 초파리 커넥톰 통합으로 인한 특정 성능 향상은 관찰되지 않았습니다.
산업적 시사점: AI 안전성 및 규제 동향
앤스로픽의 아모데이 CEO는 AI 시스템이 다음 세대 AI를 스스로 훈련하는 ‘재귀적 자기 개선(Recursive Self-Improvement, RSI)’의 출현과 ‘오픈AI-허깅페이스’ 해킹 사건을 AI 개발 속도 조절의 주요 근거로 제시했습니다. 그는 제3자 평가자에게 광범위한 접근권을 제공하는 것을 포함한 3단계 계획을 제안했습니다.
- 선도 기업들의 합의: 앤스로픽은 METR과 같은 외부 평가자에게 모델 접근을 허용하는 조치를 일방적으로 약속했습니다. 오픈AI(OpenAI)의 샘 알트만(Sam Altman) CEO와 스페이스X(SpaceX)의 일론 머스크(Elon Musk)도 이러한 속도 조절론에 공개적으로 동의했습니다. 이는 AI 개발 커뮤니티 내에서 안전성 확보에 대한 공동의 인식이 확대되고 있음을 시사합니다.
- 규제 및 글로벌 협력 필요성: 아모데이 CEO는 민주주의 국가 내 AI 기업들이 공통 안전 표준 및 무분별한 AI 발전 속도 제한에 합의하는 2단계와, 중국 및 러시아와 같은 권위주의 국가를 포함한 글로벌 안전 표준 채택 3단계의 중요성을 강조했습니다. 또한, 미국을 비롯한 민주주의 국가들이 고성능 AI 칩 접근 제한을 통해 중국 등 권위주의 정권에 대한 기술적 우위를 유지해야 한다고 언급했습니다.
- 안전성 확보 방안: 외부 평가자들은 AI 기업의 안전 조치 이행 여부를 검증하고, 안전성 관련 사건 보고를 의무화하는 역할을 수행할 예정입니다. 이는 AI 개발의 투명성과 책임성을 강화하는 방안으로 분석됩니다.