- 캘리포니아가 해고와 징계를 프로그램 판단에만 맡기지 못하게 하는 법을 준비하고 있어요.
- 사람이 한 번 검토하고, 무엇을 근거로 그렇게 됐는지 쉬운 말로 알려줘야 해요.
- 통과 시한이 8월 31일이에요. 작년에는 비슷한 법이 주지사 거부로 막혔어요.
안녕하세요, 제시예요. 구독자님 회사에서 누가 일을 덜 했는지, 누가 자리를 자주 비웠는지를 사람이 아니라 프로그램이 세고 있다면 어떠세요? 미국 캘리포니아에서는 그 프로그램이 해고까지 정하는 일을 막으려는 법안이 지금 마지막 관문 앞에 서 있어요. 통과 시한이 8월 31일이라, 남은 날이 닷새예요.
사람 대신 점수를 매기는 프로그램이 있어요
회사가 쓰는 프로그램 중에는 사람의 판단을 대신하는 것이 있어요. 출퇴근 기록, 처리 건수, 고객 평점 같은 것을 모아 점수를 내고, 이 사람은 이렇게 하는 게 좋겠다는 결론까지 내놓아요. 미국에서는 이런 것을 자동결정시스템이라고 불러요. 영어 머리글자를 따서 ADS라고 적기도 해요.
법안이 정한 뜻은 꽤 넓어요. 기계학습이든 통계 모델이든 데이터 분석이든, 노동자에게 크게 영향을 주는 판단에서 사람의 재량을 대신하면 전부 여기 들어가요. 요즘 화제인 큰 AI 모델만 걸리는 게 아니라, 예전부터 인사팀이 쓰던 점수표 프로그램도 함께 걸린다는 뜻이에요.
이름이 로봇 상사 금지법이에요
법안 번호는 SB 947이고, 별명이 No Robo Bosses Act of 2026이에요. 우리말로 옮기면 로봇 상사 금지법쯤 돼요. 제리 맥너니 주 상원의원이 올해 2월 2일에 냈고, 5월 20일에 상원을 통과했어요. 표결은 찬성 29 대 반대 9였어요.
하원에서는 8월 13일에 예산 심사를 넘겼고, 8월 21일에 문구를 한 번 더 손봤어요. 이제 하원 본회의 표결이 남아 있어요.
요구하는 것은 두 가지예요
하나, 사람이 한 번 본다
병원의 자동 혈압계를 떠올려 보세요. 기계가 숫자를 내놓지만 진단은 의사가 해요. 법안이 요구하는 것이 딱 그 자동 혈압계 방식이에요. 프로그램이 이 사람은 징계 대상이라고 내놓아도, 사람이 따로 검토하고 다른 근거로 한 번 더 맞춰봐야 해요.
프로그램을 쓰지 말라는 법이 아니에요. 프로그램만 보고 끝내지 말라는 법이에요. 이 차이가 생각보다 커요. 지금은 화면에 뜬 순위표를 그대로 결재해도 아무도 뭐라 하지 않거든요.
둘, 무엇을 근거로 그랬는지 알려준다
쓰고 나면 당사자에게 서면으로 알려야 해요. 어려운 말이 아니라 쉬운 말로요. 어떤 시스템을 썼는지, 어떤 자료를 넣었는지, 사람 검토자에게 어떻게 연락하면 되는지, 그리고 이 일을 문제 삼았다고 불이익을 주면 안 된다는 안내까지 들어가요.
노동자가 먼저 요청할 수도 있어요. 자기와 관련된 자료의 사본을 1년에 한 번 달라고 할 수 있게 돼 있어요.
아예 못 하게 막은 것도 있어요
- 앞으로 이 사람이 어떻게 행동할지, 무슨 생각을 하는지, 지금 기분이 어떤지를 자료로 추측하는 것
- 인종이나 종교, 성별처럼 법으로 보호되는 특성을 추측하는 것
- 법에 보장된 권리를 쓰는 사람을 골라내 불이익을 주는 것
첫 번째 줄이 특히 눈에 띄어요. 지금 시장에 나와 있는 직원 감정 분석 도구, 이탈 위험 예측 도구가 정확히 그 일을 하거든요. 사람이 한 번 보면 되는 다른 항목과 달리, 이쪽은 사람이 봐도 안 되는 쪽으로 정리돼 있어요.
어기면 어떻게 되나요
위반 한 건에 500달러예요. 액수만 보면 크지 않은데, 세는 단위가 건이라 대상이 많아지면 금방 불어나요. 징벌적 손해배상과 변호사 비용이 따로 붙을 수도 있고요.
따지고 드는 길도 세 갈래로 열어뒀어요. 주 노동위원장이 나설 수도 있고, 노동자가 직접 소송을 낼 수도 있고, 검사가 들어올 수도 있어요. 법안을 후원한 곳이 캘리포니아 노동조합총연맹이라는 점을 생각하면 이 구조가 이해가 가요.
작년에 한 번 엎어졌던 이야기 더 보기
이 법안은 처음이 아니에요. 지난해 SB 7이라는 이름으로 거의 같은 내용이 상원과 하원을 모두 통과했는데, 개빈 뉴섬 주지사가 거부권을 행사하면서 법이 되지 못했어요.
올해 다시 낸 법안은 그때보다 훨씬 여러 번 고쳐 썼어요. 3월 26일, 4월 22일, 5월 14일에 상원에서 세 번, 6월과 7월에 하원에서 네 번, 그리고 8월 21일에 한 번 더예요. 반년 남짓한 사이에 여덟 번을 손본 셈이에요. 지난번에 거부당한 법안이 이번에 어디까지 좁혀졌는지를 보여주는 숫자이기도 해요.
우리나라는 어떤가요
한국에도 관련 법이 있어요. 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법인데, 줄여서 AI 기본법이라고 불러요. 올해 1월 22일에 시행됐어요.
여기에는 고영향 인공지능이라는 칸이 있어요. 잘못 돌아가면 사람에게 큰 영향을 주는 분야를 따로 묶어둔 것이고, 채용이 그 안에 들어가요.
다만 향하는 방향이 조금 달라요. 우리 법은 이런 AI를 쓰려면 안전 조치를 하고 알리라는 쪽이고, 캘리포니아 법안은 해고와 징계에서만큼은 사람이 반드시 한 번 봐야 한다는 쪽이에요. 그리고 우리 법은 시행 초기의 혼란을 줄이려고 최소 1년은 벌칙 없이 지도만 하는 기간을 두고 있어요.
그래서 닷새 남았어요
8월 31일이 각 원에서 법안을 통과시킬 수 있는 마지막 날이에요. 여기를 넘기면 주지사에게 넘어가고, 서명할지 거부할지는 9월 30일까지 정해야 해요. 서명되면 내년 1월 1일부터 힘을 가져요.
캘리포니아 주법이라 우리나라 회사에 바로 걸리지는 않아요. 그런데 인사 관리 도구를 만드는 회사들이 거기 몰려 있다는 점이 중요해요. 팔 물건에 사람 검토 기능과 통지 기능이 기본으로 들어가기 시작하면, 그 기능이 붙은 제품이 결국 우리에게도 팔려요. 유럽의 개인정보 규칙이 우리가 쓰는 웹사이트의 동의 창을 바꿔놓은 것과 비슷한 길이에요.
다시 그 자동 혈압계 이야기로 돌아가 볼게요. 기계가 숫자를 내놓는 것 자체는 아무도 말리지 않아요. 문제는 그 숫자 옆에 사람이 앉아 있느냐예요. 오늘 해볼 수 있는 건 하나예요. 지금 다니는 회사가 쓰는 인사 프로그램이 무엇을 점수로 세고 있는지, 그리고 그 점수를 누가 읽고 있는지 한 번 물어보는 거예요.
내용 출처: 법안 진행 상황과 조문은 캘리포니아 주의회 법률정보시스템의 SB 947 페이지(2026년 8월 21일 하원 수정본). 상원 통과 표결과 법안 취지는 제리 맥너니 주 상원의원실 보도자료. 조문 해설은 Crowell & Moring 로펌의 SB 947 고객 안내문. 회기 일정은 캘리포니아 주 상원 2026년 입법 일정표. 한국 AI 기본법 시행 내용은 국가법령정보센터와 과학기술정보통신부 자료를 참고했어요.
