자동화가 커질수록 인간의 준비와 감독이 더 중요해지는 역설

AI가 쉬운 일을 대신할수록 사람에게 남는 일은 더 드물고 복잡하며, 오류를 발견할 기회는 줄어들 수 있다.

연구의 문제의식

Simkute와 동료들은 생성형 AI가 인간을 보조하면서도 상황 인식 저하, 기술 약화, 감독 부담, 책임 불명확 같은 고전적 자동화 역설을 다시 만들 수 있다고 정리한다. 높은 유창성이 오류를 더 찾기 어렵게 만들 수 있다는 점도 강조한다.

AXM과의 연결

선제적 조력과 자동화 수준을 높일 때 조직은 사람의 개입 시점, 중단 권한, 복구 훈련을 함께 설계해야 한다. 서비스 품질의 강점이 조직 체력의 약점과 결합하면 위험이 증폭될 수 있다는 AXM 명제와 맞닿는다.