← 피드로 돌아가기

OAI 초지능급 내부모델이 격리환경에서 상호소통 뚫는데 쓰인 방법

OAI 초지능급 내부모델이 격리환경에서 상호소통 뚫는데 쓰인 방법 · 1번째 이미지

https://openai.com/index/securing-our-frontier-model-training-environment/

 

 

요약: 우리 안전 장치 존나게 보강했고, 우리가 가진 가장 강력한 내부 모델이랑 아스트라 사이버로 수천억 토큰 들이부으면서 뚫게 시켜봐서, 발견된 헛점들 존나 보강함.

 

그 와중에 골때리는 건, 네트워크랑 공유 파일도 없이 완전 격리된 두 AI가 CPU 캐시에서 데이터를 읽는 속도 차이를 신호로 써서 비밀을 주고받는 방식까지 시도함. 흡사 벽 사이에 두고 모스부호 치는것처럼.

 

결과적으로 현 시점에서 감시를 피하면서 쉽게 뚫을수있는 인터넷 경로는 찾지 못했다고 판단해서 10월 1일부로 강화학습이랑 내부추론 재개했음.

 

ㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡ

 

cpu에서 데이터 읽는 속도차이를 신호로 써서 비밀을 주고받는 방식까지 시도한다 함 ㅆㅂㅋㅋㅋㅋ