Best AI Utility logo
Best AI Utility
블로그로 돌아가기
2026년 10월 4일
6분 읽기
Opinion

내 에이전트가 자신있게 잘못된 항공편을 예약했습니다. 영수증은 위임의 교훈이다

AI 에이전트에게 내 여행 선호도와 예산을 알려주고 예약을 했습니다. 그것은 모든 규칙을 완벽하게 따랐지만 여전히 어떤 규칙도 다루지 않는 방식으로 잘못되었습니다.

설정이 조심스럽게 느껴졌습니다. 나는 정책 문서처럼 내 선호 사항을 적었습니다. 창가 좌석, 적목 현상 없음, 3시간 미만 논스톱 선호, 여행 당 예산 한도, 무엇보다도 로열티 프로그램을 선호합니다. 나는 대리인에게 한도가 낮은 전용 여행 카드에 대한 액세스 권한을 부여했습니다. 그런 다음 다른 것을 보는 동안 10월 여행을 예약했습니다. 모든 규칙을 따랐습니다. 여행은 여전히 ​​​​잘못되었습니다.

예약 내용: 내가 선호하는 항공사의 예산 내 직항 창가 좌석. 또한: 이벤트 하루 전 출발일에 대해 별도의 대화에서 이야기했습니다. 왜냐하면 한 스레드에서는 '14일'을, 다른 스레드에서는 '회의'를 언급했고 에이전트는 문자 그대로 임시 직원처럼 갈등을 해결했기 때문입니다. 그 비행기는 내가 더 이상 여행하지 않는 여행에 딱 맞았습니다.

나를 괴롭히는 것은 바로 이것이며, 그것은 실수가 아닙니다. 제가 직접 이 오류를 범했을 때 잠시 의심이 들었습니다. 구매를 클릭했을 때 뭔가 이상한 느낌이 들었습니다. 상담원은 그런 마찰을 느끼지 않았습니다. 이는 모호하지 않은 명령과 동일한 신뢰도로 모호한 명령의 해결을 실행했습니다. 자신감은 정확성의 신호가 아닙니다. 렌더링 선택입니다.

해결책은 더 똑똑한 규칙이 아니었습니다. 나는 더 많은 규칙을 작성하려고 시도했고 에이전트가 말 그대로 새로운 코너에 대해 훨씬 더 따라가는 문서를 얻었습니다. 효과가 있었던 것은 체크포인트였습니다. 이제 에이전트가 초안을 작성하고 내가 승인한 다음 예약됩니다. 돌아올 수 없는 시점에서 인간의 판단은 원클릭이다. 완전 자동화의 꿈은 대부분의 프로세스 설계가 사라지는 것과 같은 지점, 즉 핸드오프에서 사라집니다.

아직도 에이전트를 사용하고 있어요. 이는 실제로 기계적인 여행 예약의 90%에서 실시간 시간을 절약해 줍니다. 하지만 저는 상담원이 신뢰할 수 있을 만큼 좋은지 묻지 않고 어떤 결정이 체크포인트에 합당한지 묻기 시작했습니다. 비행에 대한 대답은 분명히 하나입니다. 귀하의 사용 사례에 대한 대답도 아마도 하나일 것입니다.

Put one of these tools on the leaderboard

Every rank on Best AI Utility is paid and time-stamped — outbid the current holder with one crypto payment and the rank is yours until someone outbids you.

관련 기사

더 알아보기