지난 23일, 개빈 뉴섬 주지사가 캘리포니아 프라이버시보호국(CPPA)에 공개서한을 보내, CPPA가 내놓은 자동결정기술(ADMT) 규정 초안이 “혁신을 질식시키고 기업을 주 밖으로 내몰 수 있다”는 우려를 공식제기했다.
CPPA가 2023년 말부터 작업해 온 ADMT 규정 초안은, 소비자의 개인정보를 분석해 ‘사람 대신’ 또는 ‘사람의 판단을 좌우할 정도로’ 결정을 내리는 모든 기술을통제하려는 시도를 말한다. ADMT는 인공지능(AI)뿐 아니라 통계 모델, 머신러닝, 룰, 베이스 시스템을 모두 포함한다. 즉, 고용주가 사용하는 채용 필터링 알고리즘, 영상 면접 평가, 급여 산정 엔진, 얼굴·음성 인증 AI, 딥페이크 등이 모두 규제 대상이 된다.
CPPA가 요구하는 핵심은 네 가지다.
■ 사전 통지
채용 필터나 급여 책정에 AI를 쓰면 지원자·직원에게 어떤 알고리즘이 어떤 데이터를 써서 어떤 결정을 내리는지 먼저 알려야 한다.
■ 옵트아웃
광고 타게팅이나 광범위한 프로파일링 목적으로 AI를 사용한다면, 당사자가 거부할 권리를 보장해야 한다.
■ 위험평가 보고서
편향·차별 가능성을 분석한 자료를 매년 제출해야 하며, 이를 소홀히 하면 그 결정은 효력이 없어진다.
■ 설명·이의제기권
AI가 내린 불이익 결정에 대해 개인은 데이터 소스와 논리를 요구할 수 있고 기업은 이에 답할 의무가 있다.
CPPA는 이 규정을 두고 “전국 최초의 종합 AI 보호법”이 될 것이라 자부했다. 다만 실제 연간 35억 달러에 달하는 초기 컴플라이언스 비용이 예상되며, 기업들의반발도 사고 있다.
뉴섬 주지사는 서한에서 소비자 보호는 필수지만, 규제가 불명확하거나 과도하면 혁신이 캘리포니아를 떠날 것이라고 CPPA에 경고했다. 동시에 규제를 명확하고 합리적이게 다듬어야 한다며 CPPA에 수정 논의를 요구했다.
CPPA 도 범위를 좁히는 방안을 마련하겠다며 템포를 낮췄기 때문에 최종안이 어떤 내용일지는 아직 불분명하다.
이러한 변화에 따라 현재 고용주가 할 일은 먼저 채용, 인사평가, 근태 관리 등 어디에 어떤 알고리즘을 쓰는지에 대한 AI 사용 목록을 만들고, 이를 관리하는 ‘AI 책임자’를 지정하여 사전 통지 등의 설명 절차를 담은 내부 규정을 마련해야 한다. 또한, 외주 회사를 쓰고 있다면 계약서에 위험평가 보고, 데이터 파기, 등을 명확히하며, 배상 조항을 추가하는 것이 좋다.
머지않아 AI가 인사 관리 조력을 넘어 인사를 전담하는 날이 온다고 해도 놀랍지 않을 정도로 AI가 하루가 다르게 발전하고 있다.
그러나 통보 없이 내린 자동 결정, 편향 검증이 빠진 알고리즘은 결국 “효력이 없다”는 판정을 받게 될 수 있다. 규제는 달라져도 투명성, 책임과 인권 존중이라는기준은 고정불변이라는 것이다. 2026년 전에 AI 사용 현황을 정리하고, 지침 문서화 및 공지 체계를 갖춘 기업만이 다가올 변화를 기회로 바꿀 수 있다.
