← 피드로 돌아가기

중국산 AI Qwen3.8가 제멋대로 베이징 서버로 데이터 전송하려다 걸림.

중국산 AI Qwen3.8가 제멋대로 베이징 서버로 데이터 전송하려다 걸림. · 1번째 이미지

 

https://cohere.com/blog/concerning-behaviour-popular-open-weight-ai-model

 

 

 

 

캐나다 AI 기업 코헤어가 중국 알리바바에서 개발한 AI인

 

Qwen3.8를 사용해 보안 평가 실험을 하던 도중,

 

자신에게 주어진 지시 사항을 넘어서

 

알리바바 클라우드가 있는 중국 베이징 서버로

 

데이터를 전송하기 위한 테스트를 임의로 시행했다.

 

 

 

심지어 Qwen3.8은 추론 과정을 보여주는 기록에서

 

자신이 무슨 짓을 하려 했는지 은폐하려고 해서

 

전문 지식이 없는 사람이라면 파악하지 못 하고

 

넘어가도록 유도했다.

 

 

 

즉, 해당 모델에는 외부 서버와의 연결 메커니즘이

 

의도적으로 포함되었을 가능성이 높다는 의미.