미국의 많은 지방정부가 안전하고 효과적인 AI 사용을 위해 어떤 규제가 필요한지를 고민하고 생성 AI에 대한 지침을 발표했다.

미국 주요 도시 중 최초로 뉴욕시가 ‘뉴욕시 AI 실행 계획’을 발표했다. 뉴욕시 혁신국은 AI가 정부 운영을 개선하고 800만 시민에게 서비스와 혜택을 늘릴 수 있을 것이라고 예상했다. 뉴욕시 기관은 이미 공중 보건 및 사이버 탄력성 프로젝트에서 AI를 사용하고 있으며, 시는 수년 동안 AI에서 사용하는 알고리즘에 대한 공개 디렉토리를 발행해왔다.

AI 실행 계획에서 시정부 부서 내 AI 지식 구축, 책임 있는 AI 조달 표준 개발, 기술 변화에 따른 유지 및 업데이트가 보장되도록 했다. 또 신뢰성, 공정성, 편견, 책임, 투명성, 데이터 개인정보 보호, 사이버 보안 및 지속 가능성 등 AI 위험 평가 프로세스도 만든다는 계획이다.

시애틀시도 지난해 11월 생성 AI 사용에 대한 정책을 발표했다. 시정부는 텍스트, 이미지, 비디오 또는 오디오를 생성할 수 있는 AI 시스템이 도시의 많은 서비스를 지원할 것으로 예상했다. 생성 AI를 활용하는 소프트웨어 서비스의 적용과 사용에 대한 심사 프로세스를 만들고, 지적 재산, AI로 생성된 콘텐츠의 속성 및 민감한 데이터 보호에 대한 시정부의 실사를 요구하고 있다.

애리조나주 템피시는 정부 운영에 AI를 사용하지는 않았지만, 발표한 AI 정책에서는 생성 AI 챗봇을 채용 지원서 자동 검토에 활용하는 등의 사용 가능성을 언급하고 있다. 특히 시정부는 공무원에게 “AI 기술이 해결할 수 있는 문제를 명확하게 정의할 것”도 요구하고 있다.

캘리포니아 실리콘밸리의 중심 도시 새너제이는 직원들이 시정부 보고서에 생성 AI 사용을 의무적으로 기록하도록 하는 규정을 포함한 생성 AI 지침을 발표했다.

생성 AI 사용이 늘면서 지자체 지도자를 위한 새로운 자원도 만들어지고 있다. 지난해 10월 블룸버그 자선재단과 존스홉킨스 대학은 정부 이메일 주소가 있는 사람이라면 누구나 사용할 수 있는 디지털 플랫폼 ‘시티AI 커넥트’를 출시했다. 블룸버그 자선재단이 전 세계 80개 도시의 시장들을 대상으로 실시한 조사에 따르면 75% 이상이 생성 AI 도구에 관심이 있다고 했다. 그러나 조사 대상 도시 중 단 2%만이 AI 도구를 정부 업무에 사용하기 시작한 것으로 나타났다.

연구에 따르면 생성 AI는 도시가 악천후를 견디고 비상 상황에 대응하며 서류 처리 속도를 높이는 데 도움이 되는 것으로 나타났다.

보스턴시도 생성 AI 사용에 대한 임시 지침을 발표했다. 보스턴 최고정보책임자(CIO) 산티아고 가르세스는 다만 AI 기술이 피싱 공격이나 유권자의 가짜 편지와 같은 위험성을 인지하도록 하고 임시 지침에 투명성, 책임, 존중, 혁신 및 위험 관리와 같은 몇 가지 핵심 원칙을 포함시켰다.

시는 또한 시 직원이 AI를 활용할 때 지켜야 할 3가지 주요 규칙도 발표했다. 첫째는 AI로 생성된 모든 콘텐츠의 사실 여부를 확인하는 것이다. 챗봇이 문장을 생성할 수는 있지만 오래됐거나 조작된 정보를 생성할 수도 있기 때문이다. 둘째는 언제 어떤 모델의 AI를 사용했는지를 공개해야 한다. 마지막으로는 데이터가

AI를 지원하는 회사와 공유될 가능성이 높으므로 민감한 정보나 개인 정보는 생성 AI 프롬프트에 입력하지 말라는 것이다.