Anthropic, ‘50명 이상 사망 위험’ AI 모델 차단 기준 담은 안전 법안 제안

Anthropic이 제안한 AI 안전 정책은 모델이 50명 이상을 사망에 이르게 할 수 있는 경우 공개를 막을 수 있다는 기준을 담은 것으로 전해졌습니다. 다만 해당 정책은 연방기관이 법관의 허가 없이 모델 출시를 차단하지 못하도록 해, AI 안전 장치와 규제 권한 제한을 함께 포함합니다.

제품 개발자 입장에서는 출시 차단 요건이 법원의 판단과 연결될 경우 규제 리스크가 절차적으로 예측 가능해질 수 있습니다. 그러나 긴급한 위험 신호가 있어도 행정기관의 즉각 개입이 제한될 수 있다는 점은 안전성과 출시 속도 사이의 분명한 절충입니다.