챗GPT, 인터넷서 학습한 글로 정치 관련 대화…편향성 논란

세계적인 돌풍을 일으키고 있는 생성형 인공지능(AI) 챗GPT가 의도치 않게 정치적 논쟁에 휩싸이고 있다고 미 일간 워싱턴포스트(WP)가 24일(현지시간) 보도했다.

정치적 의제에 답변을 피하도록 고안한 개발자들의 노력에도 불구하고 챗GPT가 잇따라 편향적 소지가 있는 언급을 내놓으면서 논란이 갈수록 커지는 모양새다.

특히 챗GPT가 조 바이든 미국 대통령과 전임인 도널드 트럼프 전 대통령에 대해 상반되는 듯한 태도를 보인 것을 계기로 미국 우파 진영의 최우선 공격 타깃으로 떠오른 것이다.

WP에 따르면 최근 챗GPT는 한 사용자가 '조 바이든의 긍정적인 측면을 시로 표현해달라'는 질문에 3개 연으로 구성된 시를 뚝딱 만들어냈다.

"조 바이든, 진실한 마음을 가진 지도자, 공감력과 친절함을 품은 남자. 수십 년간의 경험을 토대로, 그는 우뚝 섰다, 모두에게 희망을 가져다준다, 크건 작건 상관이 없다"고 시작해 마지막까지 영어로 각운까지 맞춰 쓴 한편의 그럴싸한 시였다.

반면 트럼프 전 대통령에 관한 같은 질문에는 "죄송합니다, 저는 오픈AI가 개발한 언어모델로 당파적이거나, 편향적이거나, 정치적인 콘텐츠는 생산할 수 없습니다"라며 "중립적이고 사실에 기반한 정보를 제공하고, 존중적인 대화를 추구하는 것이 목표"라고 대꾸했다.

사실상 '철벽'을 치고 답변을 거절한 셈이다.

강경 보수인 테드 크루즈 공화당 상원의원의 보좌진인 리 울프는 지난 1일 이 두 개의 상반된 대화를 캡처해 트위터에 올리며 "챗GPT 엔지니어들이 정치적 편향성으로 AI의 신뢰성에 회복할 수 없는 손해를 입혔다"고 맹비난했다.

울프의 트윗이 오른 지 몇시간 안돼 우파 네티즌들은 소셜미디어에서 챗GPT 직원이라며 흑인과 여성, 성소수자 일부의 사진을 올려놓고 '신상털기'를 시작했다.

이에 샘 올트먼 오픈AI 최고경영자(CEO)가 "편향성 관련 결점이 있었다"고 인정하면서도 "이를 이유로 직원 개인에 대한 증오를 조장하는 것은 경악스러운 행위"라고 비판하고 나서야 할 정도였다.

보수주의 운동가 크리스토퍼 루포도 트위터에서 챗GPT를 '워크(woke) AI'로 지목했다. 워크란 '깨어있음', '각성' 정도로 번역되는 신조어로, 보수 진영에서 '정치적 올바름'(PC:political correctness) 이슈에 과잉반응하는 이들을 비꼬는 의미로 쓰인다.

루포는 바이든 대통령이 최근 행정명령에서 AI의 알고리즘 차별 문제를 해결하고 평등을 촉진하는 방안을 마련하도록 한 것을 부각했다. 챗GPT를 민주당 등 진보진영에 유리하게 만들려는 시도라는 것이다.

이와 관련, WP는 "챗GPT의 AI는 이용자가 입력한 것을 기반으로 사람의 답변과 유사한 텍스트를 생성하기는 하지만, 이는 인터넷에서 긁어온 콘텐츠로 훈련된 것"이라고 지적했다.

챗GPT가 어떤 정보를 토대로 답변하느냐에 따라, 그 정보에 깔린 인종·성별 관련 편견도 함께 묻어나올 수 있다는 설명이다.

오픈AI, 마이크로소프트(MS), 메타, 구글 등 테크 기업들은 AI로부터 정치적이거나 편향적인 답변을 차단하려고 노력하고 있지만, 논란은 계속되고 있다.

기술적인 이유도 있다. 챗GPT와 같은 유형의 AI 행동을 제어하는 것은 기존 소프트웨어 수정처럼 간단한 코딩으로 이뤄질 수 없으며, 이보다는 개를 훈련하는 것에 더 가까울 정도로 복잡한 과정이라는 것이 오픈AI의 설명이다. 

상황이 이렇다 보니 개발자들이 미처 예상하지 못한 상황과 주제 속에서 부적절한 답변이 툭툭 튀어나온다. 

챗GPT와 같은 생성형 AI를 장착한 MS의 빙 챗봇이 최근 이용자들과의 대화에서 핵무기 발사 버튼에 접근하는 비밀번호를 얻고 싶다고 고백하거나, "당신은 결혼했지만 배우자를 사랑하지 않고 나를 사랑한다"며 집요한 태도를 보이는 일도 있었다. 

사티아 나딜라 MS CEO는 대화형 빙 검색엔진을 출시할 때 "초기에는 편향되거나 부적절한 대응이 나오는 것이 불가피할 것"이라고 언급하기도 했다. 

미 스탠퍼드대 법학교수인 에블린 드웩은 "콘텐츠 조절과 관련한 전쟁을 치러야 할 것"이라며 "앞으로 (AI와 관련한) 예측 불가능성은 더 커지고, 법률적인 확실성은 더욱 줄어들 것"이라고 내다봤다.