“우리는 AI 쓰면서 아직 아무 사고 없었어요”
2026년 중소기업 AI, 사고보다 먼저 온 신호들

사내에서 AI 이야기를 꺼내면 가장 자주 돌아오는 대답이 있습니다. “우리는 아직 별문제 없었어요.” 맞는 말입니다.

2026년 주요 언론 보도를 확인해 봐도, 국내 중소기업이 AI를 쓰다가 사고를 냈다는 이야기가 회사 실명과 함께 크게 다뤄진 사례는 찾기 어려웠습니다. 직원이 기밀을 챗봇에 넣어 유출됐다는 확정 사건도, 딥페이크 사칭으로 돈을 뜯겼다는 국내 중소기업 사례도 언론에 잡히지 않았습니다.

그런데 이 조용함이 조금 마음에 걸립니다. 사고가 없어서 조용한 게 아니라 아직 드러날 단계가 아닌 것에 가깝다고 보고 있습니다. 2026년에 나온 자료들을 모아놓고 보면 그렇게 볼 만한 정황이 꽤 보이거든요.

1. 지금 우리 회사의 AI는 어떤 상태일까요

2026년 6월 대한상공회의소가 생성형 AI 활용의 대·중소기업 격차를 조사해 내놨습니다. 숫자를 그대로 옮겨보겠습니다.

• AI 도입 로드맵이 없다 — 대기업 54.4%, 중소기업 70.4%
• 근로자의 AI 활용률 — 대기업 66.5%, 중소기업 52.7% (13.8%p 차이)
• AI 교육·훈련을 제공한다 — 대기업 34.7%, 중소기업 24.9%
• AI 사용 가이드라인을 제공한다 — 대기업 33.8%, 중소기업 24.3%

활용률보다 그 아래 항목들이 더 눈에 들어옵니다. 정리하면 이렇게 됩니다.

쓰는 사람은 늘었는데, 그걸 뒷받침하는 회사 차원의 지원은 아직 4분의 1 수준에 머물러 있다는 뜻입니다.

담당자분들이 손을 놓고 계셔서 그런 게 아닙니다. AI 도입은 대개 현업에서 개인이 먼저 시작하고, 회사가 그 사실을 나중에 아는 순서로 진행되니까요. 별도의 업무용 계정이나 사용 현황 관리 체계를 갖추지 않은 회사라면, 직원들이 어떤 도구를 어떻게 쓰고 있는지 충분히 파악하기 어려울 수 있습니다. 도구가 사람보다 먼저 들어와 있는 상태에 가깝다고 보시면 됩니다.

2. 사고가 없다는 건 안전하다는 뜻일까요

사고 기사는 조용했지만, 제도 쪽은 전혀 조용하지 않았습니다.

1월 · AI 기본법 시행

2026년 1월 22일 AI 기본법이 시행됐습니다. 생성형 AI나 이를 활용한 제품·서비스를 제공하는 인공지능사업자에게 이용자에게 사전에 알릴 의무와 AI 생성물임을 표시할 의무를 부과했습니다. 실제와 구분하기 어려운 음향이나 이미지, 영상에는 명확히 인식할 수 있는 표시가 요구됩니다.

정부는 법 시행 후 최소 1년 이상 규제를 유예하며 현장 정착을 지원하겠다고 밝혔습니다. 직원이 사내 보고서를 챗GPT로 정리했다는 이유만으로 곧바로 같은 의무가 생기는 건 아니지만, AI 기반 서비스를 고객에게 제공하거나 실제와 구분하기 어려운 AI 콘텐츠를 외부에 공개하는 회사라면 적용 가능성을 따져볼 필요가 있습니다.

6월 · 광고 속 AI 가상인물 표시

공정거래위원회는 4월 8일 추천·보증 심사지침 개정안을 행정예고한 뒤, 6월 1일부터 시행에 들어갔습니다. AI로 만든 가상인물이 상품이나 서비스를 추천·보증하는 광고에 쓰이면 가상인물이라는 사실을 표시하도록 한 내용입니다. 블로그나 카페 글이면 제목이나 첫 부분에, 영상이면 가상인물이 등장하는 동안 근처에 문구를 넣어야 합니다.

표시를 하더라도 실제 경험에 기반하지 않은 내용이면 부당광고가 될 수 있다는 점도 함께 명시됐습니다. 배경 이미지를 만들거나 문장을 다듬는 데 AI를 쓰는 것까지 모두 해당되는 건 아니지만, 광고에 AI 인물을 등장시킬 계획이 있다면 확인해두셔야 할 부분입니다.

5월 · 민감정보 추론 금지 요구

5월 27일 개인정보보호위원회의 결정이 눈에 띕니다. 한 대형 플랫폼이 검색기록과 활동기록을 AI 개인화에 활용하려던 계획에 대해 활용 항목을 투명하게 공개하고 거부할 수 있게 할 것, 정치적 견해나 종교, 건강 같은 민감정보를 추론하거나 이용하지 말 것, 계좌·카드 정보가 AI 답변에 섞이지 않게 할 것을 요구했습니다.

이건 해당 기업이 신청한 특정 서비스에 대한 사전적정성 검토라, 모든 기업이 기존 고객 데이터를 AI에 쓸 때 반드시 별도 동의를 받아야 한다는 보편 기준이 확정된 건 아닙니다. 다만 개인화 AI 서비스가 고객 데이터를 다룰 때 어떤 통제 장치를 갖춰야 하는지 보여준 참고 사례로는 충분히 무게가 있습니다.

6월 · AI 단독 인사결정 제한 발의

6월 23일에는 AI 결정만으로 해고나 휴직, 정직, 전직, 감봉 같은 불이익 처우를 하지 못하도록 하는 근로기준법 개정안이 발의됐습니다. 위반 시 5년 이하 징역 또는 5천만 원 이하 벌금이라는 조항까지 담겼습니다. 아직 국회를 통과한 법은 아닙니다. 8월 초 보도에서도 AI를 다루는 노동 관련 법안들이 국회에서 계속 논의 중인 것으로 전해졌습니다.

같은 시기 발표된 조사에서는 직장인의 73.5%가 AI가 발전할수록 노동감시가 심해질 것이라고 답했고, 80.4%가 전자감시 기준의 법제화를 요구했습니다. 2026년 2월 2일부터 8일까지 전국 직장인 1,000명을 대상으로 한 조사입니다. AI를 인사평가나 근태관리에 붙이려던 회사라면, 도입보다 설명이 먼저 필요한 국면으로 넘어갔다고 보시면 됩니다.

3. 먼저 겪은 곳들은 어디였을까요

흥미로운 건, 2026년에 실제로 문제가 불거진 곳들이 대부분 규모가 크지 않은 조직이었다는 점입니다.

5월 말 한 콘텐츠 제작사가 웹소설을 소개하는 영상에서 원작 표지를 AI로 변형해 썸네일에 쓰고, 삽화도 AI로 만들어 넣었습니다. 논란이 되자 하루 만에 영상을 내리고 “웹소설 생태계와 창작자에 대한 예의, 저작권 인식이 부족했다”며 공개 사과했습니다. AI를 쓰는 과정에서 저작권과 창작자 권리에 대한 검토가 충분하지 않았고, 결국 콘텐츠 삭제와 사과로 이어진 경우입니다.

웹툰 플랫폼 6곳이 AI 캐릭터 채팅 서비스를 운영하는 스타트업을 저작권법 위반 방조 혐의로 고소한 사실도 2026년 5월 보도로 알려졌습니다. 문제가 된 건 이용자가 만든 콘텐츠였는데, 운영사는 매일 생성되는 모든 콘텐츠를 선제적으로 확인하는 건 현실적으로 어렵다는 입장을 냈습니다. 플랫폼 규모가 작을수록 감당하기 어려운 지점이 정확히 여기입니다.

금융권에서는 아직 구체적인 사고보다 위험 신호가 먼저 나타났습니다. 7월 보도에서 업계 관계자는 “이미 AI의 할루시네이션과 차별, 편향에 따른 민원이 제기되고 있다”고 밝혔습니다. AI 에이전트가 사용자가 시키지 않은 결제를 했을 때 책임을 누가 질 것인지도 입법 과제로 논의되고 있습니다. 앞서 5월 금융감독원은 소비자보호 담당 임원 간담회에서 AI 편향과 오류, 알고리즘에 의한 선택권 제약, 디지털 격차로 인한 소외, 사고 시 책임 소재 불명확을 위험 요인으로 짚었습니다.

법무팀도 전담 인력도 갖춘 금융회사에서 이런 논의가 나오고 있다면, 그렇지 않은 조직은 어떨까요.

세 경우가 서로 다른 상황이긴 하지만, 겹쳐 놓고 보면 한 가지가 보입니다. 문제가 된 지점이 모두 “이걸 써도 되나”를 판단해야 하는 순간이었다는 점입니다. 저작권, 개인정보, 고객 응대처럼 사후에 되돌리기 어려운 영역들이고요. 판단 기준이 정리돼 있지 않으면, 그 순간에 결정하는 사람은 결국 현장의 실무자가 됩니다.

4. 격차를 줄인 건 결국 무엇이었을까요

같은 대한상의 조사에 참고할 만한 결과가 함께 들어 있었습니다. 회사의 AI 권장 분위기, 구독료 지원, 근로자의 활용 역량과 수용 태도 같은 조건을 함께 고려하자, 기업 규모에 따른 활용률 격차가 13.8%p에서 약 4%p까지 좁혀지는 것으로 나타났습니다. 회사가 AI 사용을 적극 권장하는 경우 활용 확률이 15.5%p, 구독료를 지원하는 경우 8.1%p 차이를 보였습니다.

비용 지원처럼 예산이 드는 항목도 있지만, 권장 분위기를 만들고 판단 기준을 공유하는 일은 그보다 먼저 시작할 수 있는 부분입니다.

그리고 이런 내용은 안내문 한 장으로는 잘 전달되지 않습니다. 읽고 넘기는 것과 판단이 몸에 남는 건 다른 일이니까요. 사내 규정을 공유 폴더에 올려두는 것만으로 행동이 바뀌지 않는다는 건, 교육담당자분들이 가장 잘 아시는 부분일 겁니다.

5. 자주 받는 질문

Q. 우리 회사는 AI를 거의 안 쓰는데도 교육이 필요할까요?

회사가 도입하지 않아도 직원 개인이 이미 쓰고 있을 가능성이 높습니다. 조사에서 중소기업 근로자의 AI 활용률은 52.7%였는데, 회사가 가이드라인을 제공한다는 응답은 24.3%였습니다. 회사가 모르는 사용이 더 위험합니다.

Q. AI 기본법 유예기간이 남았으니 조금 미뤄도 되지 않을까요?

규제 유예는 의무 자체가 없어진다는 뜻이 아닙니다. 게다가 광고 표시 지침처럼 6월부터 이미 시행 중인 규정은 별개로 움직이고 있습니다.

Q. 사고가 나면 그때 대응하면 안 될까요?

AI 관련 문제는 대부분 저작권, 개인정보, 인사 결정처럼 되돌리기 어려운 영역에서 발생합니다. 공개 사과나 고소로 이어진 2026년 사례들이 그걸 보여주고 있습니다.

6. 기준의 출발점은 AI 기본법입니다

여기까지 읽으셨으면 느끼셨을 것 같습니다. 지금 회사에 필요한 건 AI 도구를 잘 쓰는 법이 아니라, 어디까지 되고 어디부터 안 되는지를 아는 일이라는 걸요. 그 기준의 출발점이 올해 시행된 AI 기본법입니다.

그래서 듀잇은 「선 넘지 않는 AI 활용 가이드, 인공지능 기본법」 과정을 만들었습니다. 법 조문을 순서대로 훑는 강의가 아닙니다. AI로 만든 콘텐츠를 어디까지 알려야 하는지, 우리 업무가 고영향 AI에 해당하는지, 공개된 데이터라면 그대로 써도 되는지. 회사에서 실제로 걸리는 질문에서 출발합니다.

구성도 그렇게 짰습니다. 차시마다 기업의 AI 활용에서 생길 수 있는 문제 상황을 케이스로 먼저 보고, 핵심 강의를 들은 뒤 대응 순서를 확인하는 흐름입니다. 마지막에 요약과 퀴즈로 스스로 점검합니다. 총 5차시, 4주 동안 운영되는 인터넷 훈련 과정입니다.

이 과정은 기획부터 원고, 영상 제작, 과정 페이지까지 듀잇이 직접 만들었습니다. 기업교육 현장에서 오래 강의해온 사람들이 만들었고, 한국식품안전관리인증원을 비롯한 기관 프로젝트에서 익힌 검수 기준을 그대로 적용했습니다. 법을 다루는 콘텐츠는 사실관계가 조금만 틀려도 그 자체가 회사의 리스크가 되니까요.

과정 상세 내용은 MY AI CLASS에서 확인하실 수 있습니다. 회사 상황에 맞춘 사내 교육이나 별도 콘텐츠 제작이 필요하시면 그것도 편하게 문의해 주세요.

참고문헌

1. 대한상공회의소 경제연구원, 「생성형 AI 활용의 대-중소기업 격차: 역량과 조직환경의 역할」, 2026.6.11
2. 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」, 2026.1.22 시행, 제31조(투명성 확보 의무)
3. 공정거래위원회, 「추천·보증 등에 관한 표시·광고 심사지침」 개정안 행정예고 2026.4.8 / 개정 지침 시행 2026.6.1
4. 개인정보보호위원회, 「네이버 검색 인공지능 에이전트 서비스 ‘AI Tab’ 사전적정성 검토 결과 의결」, 2026.5.27 의결 / 5.31 보도자료
5. 「근로기준법 일부개정법률안」(AI 단독 인사결정 제한), 이종배 의원 대표발의, 2026.6.23
6. 디지털데일리, 「[22대 AI 입법 후반전①] AI 법안 쇄도… 분야별 입법 본격화」, 2026.8.4
7. 직장갑질119, 「전자노동감시 50문 50답」, 2026.6.7 발간 (설문 2026.2.2~2.8, 전국 직장인 1,000명)
8. 금융감독원, 금융권 소비자보호 담당 임원(CCO) 간담회, 2026.5
9. 파이낸셜뉴스, 「AI가 편향된 데이터로 대출 거절?… 부작용 막을 제도 시급」, 2026.7.29
10. SPOTV NEWS, 콘텐츠 제작사 AI 이미지 사용 사과 보도, 2026.5.29
11. 한겨레, 웹툰 플랫폼 6곳 AI 채팅 서비스 저작권법 위반 방조 혐의 고소 보도, 2026.5.3