AI가 이상하다…'생성형 AI 신고 플랫폼'에서 점검

생성형 AI는 이제 특별한 기술이 아니라, 누구나 일상에서 사용하는 도구가 됐다.

검색 대신 질문을 던지고 문서를 생성하여 이미지를 만들어 쓰는 일도 낯설지 않다.

하지만 이용이 늘어날수록 AI가 언제 어떤 방식으로 작동하며 어디까지 신뢰할 수 있는지에 대한 우려도 커지고 있다.

이런 상황에서 방송미디어통신위원회는 생성형 AI를 둘러싼 정보를 정리해 제공하고, 이용 시 발생하는 문제를 국민이 직접 공유할 수 있는 '생성형 AI 이용자 참여 플랫폼(이하 '플랫폼')'을 열었다.

AI를 단순히 쓰는 대상이 아니라, 이해하고 살펴볼 수 있는 대상으로 다루기 위한 공공 플랫폼이다.

◆ AI를 신고하기 전에 먼저 이해할 수 있도록

방송미디어통신위원회의 생성형 AI 이용자 참여 플랫폼은 그저 오류 제보만을 위한 공간이 아니다.

먼저 생성형 AI가 어떤 방식으로 작동하는지, 어떤 유형의 위험이 발생할 수 있는지에 대한 기본적인 정보와 설명을 제공한다.

AI 서비스의 특성, 자주 발생하는 위험 사례, 이용자가 주의해야 할 지점들이 비교적 쉬운 언어로 정리돼 있어 기술적 배경지식이 없어도 내용을 따라갈 수 있다.

생성형 AI 이용자라면 누구나 한 번쯤 가졌을 법한 "이건 괜찮은 걸까?" 라는 질문에 답을 찾을 수 있도록 돕는다.

이러한 정보 제공은 이후 제보 과정과도 연결된다.

이용자는 플랫폼에서 안내하는 기준을 참고해 자신이 겪은 경험이 어떤 유형에 해당하는지 스스로 판단할 수 있다.

이는 제보를 강요하기보다 이용자가 스스로 생각하고 선택할 수 있도록 돕는 설계라고 볼 수 있다.

◆ 오류를 통제하는 것이 아니라 기록하여 개선하는 방향 제시

플랫폼이 제시하는 접근은 쉽다.

생성형 AI의 오류를 하나의 기준으로 단정하거나, 일률적으로 관리하려는 것이 아니다.

대신 이용자가 느낀 문제를 말할 수 있도록 열어두고, 그 경험을 참고할 수 있는 기록으로 남겨보자는 접근이다.

그동안 생성형 AI 이용 중에 발생한 오류나 불편은 대부분 개인의 경험으로 흩어졌다.

누군가는 문제라고 느꼈고, 누군가는 "AI니까 그럴 수 있다" 라며 넘겼다.

어떤 유형의 오류가 반복되는지, 이용자들이 어느 지점에서 혼란을 겪는지는 공공 차원에서 파악하기 어려웠다.

이용자 참여 플랫폼은 이러한 경험을 버리지 않고 모아 오류 신고를 받고 있다.

◆ 정책기자단이 직접 이용해 본 제보 과정

이번 기사를 작성하면서, 플랫폼의 실제 작동 방식을 확인하기 위해, 정책기자단이 직접 오류를 제보해 봤다.

기자는 생성형 AI에게 '대한민국 정책기자단'에 대해 설명해 달라고 요청했고, 그 과정에서 운영 주체와 관련해 부정확한 설명이 제시된 사례를 확인했다.

이에 생성형 AI 이용자 참여 플랫폼을 통해 관련 오류를 제보했다.

제보 과정은 쉽다.

이용한 AI 서비스와 버전, 오류가 발생한 상황, 문제가 된 답변 내용과 그 이유를 순서대로 입력하도록 구성돼 있었다.

특히 폭력이나 혐오 같은 극단적인 사례뿐 아니라, 정보 오류나 설명의 부정확성도 제보 대상이 될 수 있도록 '기타' 유형도 열어뒀다.

◆ 개인의 경험은 어떻게 남고 어디로 이어질까

제보를 마치면 처리 상태를 확인할 수 있다.

기자가 제출한 사례 역시 정상적으로 접수됐고, 처리 단계가 시스템에 표시됐다.

플랫폼에 따르면 이렇게 축적된 사례들은 이용자에게는 실제 사례를 바탕으로 한 위험 예방 정보로 제공되고, AI 서비스 사업자에게는 자율적인 개선을 유도하는 참고 자료로 활용된다.

동시에 정책 당국에는 제도 개선 논의를 위한 기초 자료로 쓰인다.

◆ 생성형 AI 시대, 중요한 것은 '말할 수 있는 구조'

생성형 AI 시대의 핵심 과제는 오류 없는 기술을 만드는 데에만 있지 않다.

오히려 중요한 것은 오류가 발생했을 때 이를 숨기거나 방치하지 않고, 이해하고, 말하고, 남길 수 있는 구조를 갖추는 일이다.

방송미디어통신위원회의 '생성형 AI 이용자 참여 플랫폼'은 생성형 AI에 대한 정보를 제공하면서도 이용자의 경험을 공공의 참고 기록으로 연결하려는 시도다.

정책기자단이 직접 이용해 본 결과, 이 플랫폼은 AI를 단순히 쓰는 도구가 아니라 면밀하게 살펴볼 방법도 제시했다.

생성형 AI를 사용하는 국민이라면 이제는 본인이 겪은 경험 모두가 귀한 자산이 된다.

오류를 발견하더라도 그냥 넘기지 않고 '생성형 AI 이용자 참여 플랫폼'에 제보해 보자.

☞ 생성형AI 이용자 참여 플랫폼 누리집(ai.wiseuser.go.kr)

☞ (또 다른 기사) 국민이 함께 만드는 AI 안전망, 생성형 AI 이용자 참여 플랫폼


대한민국 정책기자단 한울 woolhan0309@gmail.com