"AI에 회사 기밀 넣지 마세요!"… 'AI로 바보 같은 짓 금지' 사내 교육 등장에 테크 판 '왁자지껄'

어느 날 아침, 출근 후 사내 교육 시스템을 확인하던 IT 엔지니어 A씨는 화면에 떠오른 강좌 제목을 보고 실소를 터뜨렸다. 필수 이수 과목으로 지정된 교육의 이름은 다름 아닌 'AI로 바보 같은 짓 하지 마세요(Don't Do Dumb Stuff with AI)'였다.

처음에는 유머러스한 이벤트성 문구처럼 보였지만, 사정을 알고 보니 웃을 수만은 없는 상황이었다. 최근 직원들이 업무 효율을 높이기 위해 외부 생성형 AI 도구를 무분별하게 사용하면서 심각한 기밀 유출 및 보안 사고가 잇따랐기 때문이다.

Read next하늘나라의 값진 진주를 찾아서: 15세 청년 벤자민 보가 남긴 사랑과 신앙의 유산

사내 소식통에 따르면, 일부 직원들은 보안 계약이 체결되지 않은 외부 AI에 회사의 내부 계약서나 소스 코드, 고객 개인정보를 그대로 복사해 붙여넣으며 문법 교정이나 요약을 요청한 것으로 알려졌다. 이는 기업의 민감 데이터가 통째로 외부 클라우드 서버에 저장되어 규제 위반으로 이어지는 대형 사고다.

게다가 AI 도구와의 대화 내용이 법적 감사나 정보공개 청구 시 공식 제출 문서에 포함되는 상황까지 발생하고 있다. 대면으로 비공개 처리했어야 할 민감한 사내 논의가 AI 대화 기록에 남아 법적 리스크를 키운 것이다.

상황이 이렇다 보니 IT 및 보안 부서에서는 AI 시대에 맞는 새로운 수칙 마련에 비상이 걸렸다. 문제의 교육 과정은 민감 정보 입력 금지, AI 사용 전 적용하는 'STOP & CHECK' 프레임워크, AI 기반 음성 복제 및 딥페이크 피싱 위협 식별 등을 다루고 있다.

Your brand, right here.Reach story-obsessed listeners in 45+ languages → advertise on Avonetics

그러나 현장 실무자들의 반응은 복잡하다. 한 현직 시스템 관리자는 "요즘 직원들은 폭주하는 업무를 처리하기 위해서라면 무엇이든 할 기세"라며 "과거 인터넷이 처음 보급되었을 때 기본 교육을 실시했던 것처럼 사내 AI 안전 교육은 반드시 필요하다"고 두둔했다.

반면 또 다른 개발자는 "업무량은 과도한데 회사가 안전하게 쓸 수 있는 공식 AI 툴을 제공하지 않으니 직원들이 외부 툴을 쓸 수밖에 없다"며 "'바보 같은 짓 하지 말라'는 식으로 직원 개인의 주의 의무로만 책임을 돌리는 것은 경영진의 책임 회피"라고 강하게 비판했다.

AI 기술의 급격한 발전에 따라 기업의 데이터 보안과 업무 생산성 사이의 갈등은 더욱 격화될 전망이다.

과연 이번 'AI 바보 짓 금지' 강좌는 실효성 있는 방어책이 될 것인가, 아니면 현장과의 거리를 줄이지 못한 해프닝으로 끝날 것인가. 팟캐스트 '시스템 에러'의 두 진행자가 이 사건의 내막과 뜨거운 논쟁을 본격적으로 파헤친다.