나를 정말 잠들게 해주는 상담원 체크리스트

불량 에이전트 이야기가 가득한 일주일이 지나자 나는 모델이 배포할 만큼 똑똑한지 묻지 않고 그 이후에 그 모델이 무엇을 했는지 증명할 수 있는지 묻기 시작했습니다. 두 번째 질문은 나를 안전하게 지켜주는 질문입니다.

내 체크리스트는 짧고 협상할 수 없습니다. 취소할 수 없지만 에이전트가 수행할 수 있는 모든 작업을 나열합니다. 인간이나 엄격한 규칙 뒤에 각각의 문을 두십시오. 실행된 내용에 대한 불변의 로그를 유지하세요. 그 어느 것도 이국적이지 않고, 모두 지루하기 때문에 사람들은 그것을 건너뜁니다.

내 행동을 변화시킨 부분이 바로 로그입니다. 사후에 설명할 수 없는 상담원은 생산성 배지를 달고 있는 책임입니다. 내가 감사할 수 없다면 그것은 실제적인 어떤 것도 건드리지 않는 것입니다.

나는 팀이 안전을 실험실에서 제공하는 모델 기능으로 간주하는 것을 보았습니다. 그렇지 않습니다. 안전한 에이전트는 범위가 지정된 권한, 허용 목록, 되돌릴 수 없는 휴먼 게이트 등의 아키텍처입니다. 모델은 말하는 부분일 뿐입니다.

기능을 배포하고 케이지를 설치합니다. 케이지가 특징이고, 건너뛰는 것은 속도가 아닙니다. 상담원이 귀하가 요청하지 않은 일을 처음으로 수행할 때 후회하게 될 것입니다.