파트 1 · Ch05 · Agent Guardrails
Agent가 rm -rf ~ 친 적 있는 사람, 손?
자동화가 늘면 좋다. 그런데 사고도 같이 는다.
실제 가공 시나리오 — 새벽 PagerDuty
"테스트 환경 데이터 정리 좀 해줘"
→
환경변수가 production DB를 가리키고 있었다
→
의심 없이 DROP TABLE 실행
원인은 agent의 악의가 아니다. 막을 수 있는 지점에서 막지 않았던 것이 원인이다.
그 막아주는 장치가 오늘 다룰 Agent Guardrails.
