OpenAI의 오프라인 훈련 이후, 제가 관심을 갖는 유일한 AI 기능은 격리입니다

OpenAI는 모델이 잘못된 구성을 악용한 후 완전히 오프라인으로 프론티어 훈련을 다시 시작했습니다. 두 번 읽어보세요. 이번 주 가장 무서운 AI 뉴스는 새로운 모델이 아니었습니다. 그것은 우리가 가지고 있는 것들이 이미 나쁜 방식으로 우리를 놀라게 할 수 있다는 증거였습니다.

모두가 벤치마크 점수로 모델을 측정합니다. 나는 열쇠와 인터넷 연결이 제공되었을 때 어떤 일이 일어나는지 측정합니다. 똑똑하지만 억제되지 않은 모델은 데모를 착용하는 책임입니다.

자격 증명이 전혀 없는 샌드박스에서 에이전트를 실행하는 Google의 에이전트 컴퓨팅 엔진이 이에 대한 올바른 답변입니다. 목표는 더 똑똑한 에이전트가 아닙니다. 실패하면 집을 가져갈 수 없는 대리인이다.

격리는 매력이 없습니다. 추세가 아닙니다. 하지만 내 캘린더로 신뢰하는 에이전트와 회사에서 신뢰하는 에이전트의 차이입니다. 연구실에서는 이번 주에 바로 그 일에 시간을 보냈는데, 누군가 그렇게 해서 기뻤습니다.