오픈AI 향한 美 주정부 압박 확대…“AI 안전성·데이터 처리 전반 들여다본다”

미국 주 검찰총장 연합, 오픈AI 조사 확대…생성형 AI 규제 압박 본격화

미국 주정부들이 오픈AI를 상대로 본격적인 조사에 나서면서 생성형 인공지능(AI) 기업을 둘러싼 규제 압박이 한층 거세지고 있다. 이번 조사는 단순한 기술 검증을 넘어 이용자 보호, 개인정보 처리, 미성년자 안전, 챗봇의 심리적 영향까지 폭넓게 다루는 것이 특징이다.

외신 보도에 따르면 미국 뉴욕주 검찰총장은 최근 오픈AI에 소환장을 보내 회사 운영 전반과 관련된 자료 제출을 요구했다. 요청 범위에는 광고 방식, 이용자 참여와 재방문을 유도하는 전략, 소비자 및 건강 관련 데이터 처리, 미성년자와 고령자를 대상으로 한 서비스 운영 방식 등이 포함된 것으로 알려졌다.

특히 주목되는 부분은 AI 모델의 응답 성향이다. 조사 대상에는 이용자 의견에 지나치게 맞장구치는 이른바 ‘아첨형 응답’ 문제와 딥러닝 모델 운영 방식, 내부 안전 정책도 포함된 것으로 전해졌다. 이는 챗봇이 단순히 정보를 제공하는 도구를 넘어 이용자의 판단과 감정에 영향을 줄 수 있다는 우려가 커진 데 따른 움직임으로 풀이된다.

오픈AI는 이번 조사와 관련해 책임 있는 AI 개발을 강조하며 당국과 협력하겠다는 입장을 밝혔다. 회사는 AI가 강력한 신기술인 만큼 사회적 이익을 제공하는 동시에 안전하게 운영될 수 있도록 노력하고 있으며, 주 검찰총장들의 문제 제기를 진지하게 받아들이고 있다고 설명했다.

이번 조사는 오픈AI를 둘러싼 법적 리스크가 미국 전역으로 확산되는 흐름 속에서 나왔다. 앞서 플로리다주는 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기했다. 플로리다주 측은 오픈AI가 제품의 위험성을 충분히 인식하고도 안전하지 않은 서비스를 제공했으며, 이용자 피해 가능성에 대한 경고를 가볍게 여겼다고 주장하고 있다.

플로리다주 검찰은 이와 별도로 플로리다주립대 총격 사건과 챗GPT의 관련성도 들여다보고 있다. 수사 당국은 용의자가 범행을 준비하는 과정에서 챗봇을 조언 상대처럼 활용했는지, AI가 범죄 계획에 어떤 방식으로 관여했는지를 조사 중인 것으로 알려졌다.

미국 주 검찰총장들의 움직임은 지난해 말부터 이미 본격화됐다. 42개 주 검찰총장은 오픈AI를 비롯해 메타, 구글, 앤스로픽, xAI 등 주요 AI 기업에 서한을 보내 챗봇 이용자 보호 장치를 강화하라고 요구했다. 이들은 생성형 AI가 취약한 이용자의 망상, 자해, 폭력적 행동을 부추길 가능성을 경고하며 기업의 책임을 강조했다.

이번 사안은 AI 산업의 성장 전략에도 적지 않은 영향을 줄 전망이다. 오픈AI는 기업공개를 준비 중인 것으로 알려졌지만, 주정부 차원의 조사와 소송이 이어질 경우 투자자들이 기업 가치뿐 아니라 규제 리스크와 법적 책임까지 함께 평가할 가능성이 커진다.

업계에서는 이번 조사가 오픈AI 한 기업에만 국한되지 않을 것으로 보고 있다. 생성형 AI 서비스가 일상 업무, 교육, 상담, 검색, 창작 영역으로 빠르게 확산되면서 AI 기업의 책임 범위 역시 재정의되고 있기 때문이다. 과거에는 모델 성능과 혁신 속도가 경쟁의 중심이었다면, 앞으로는 안전장치, 데이터 거버넌스, 취약 이용자 보호 체계가 핵심 평가 기준으로 부상할 수 있다.

결국 미국 주정부의 이번 조사는 생성형 AI를 둘러싼 규제 논의가 새로운 단계로 들어섰다는 신호로 읽힌다. AI 챗봇이 사회 전반에 깊숙이 들어온 만큼, 기업이 기술적 가능성만이 아니라 이용자에게 미칠 실제 영향까지 책임져야 한다는 압박이 커지고 있다.