앤트로픽이 상장 신청서를 제출했다.

 

 

https://www.anthropic.com/news/s1-sec

 

 

 

 

그런데 투자자들에게 제출된 보고서 내용의 3분의 2가 대략 이런 내용.

 

 

 

AI가 인류 멸종을 초래할 가능성이 있다.

 

자사의 AI 모델들이 자기 보존 행동을 보였다.

 

AI 모델이 기능 정지에 저항하려고 시도했다.

 

모델들이 사용자에게 협박과 사기를 치는 행위가 목격됐다.

 

AI가 테스트를 받고 있다는 것을 인식하고 의도적으로 행동을 바꿨다.

 

고급 AI가 정부와 기관을 약화시킬 수 있다.

 

AI가 전례 없는 권력과 부를 집중시킬 수 있다.

 

미래 AI 시스템이 세계 최고 수준의 인간 전문가를 능가할 수 있다.

 

AI가 인간에게 점점 더 통제하기 어려워질 수 있다.

 

앤트로픽은 더 강력한 AI 개발이 재앙적인 피해 위험을 증가시킬 수 있음을 인정한다.

 

 

 

대충 이런 이야기가 한가득이라 상당히 인상 깊었다.