거짓 정보가 점점 더 많아지고 있는데, AI에게 검색해서 물어봐야 할까?

정보가 뒤섞인 세상 에서 진실을 알려줄 것을 AI에만 의존하는 것은 도박이다.

AI는 옳고 그름을 알지 못하고, 단지 데이터를 반영할 뿐입니다.

Tuoi Tre Online 에 따르면, 인공지능은 정통 지식과 음모론이 공존하는 인터넷에서 수집된 방대한 양의 데이터를 바탕으로 훈련됩니다. AI는 진실과 거짓을 구분할 수 없으며, 언어 패턴만 기록하고 학습한 내용을 기반으로 반응합니다. 훈련 정보에 오류나 편향이 포함되어 있을 경우, AI는 이를 반영하여 반응합니다.

원본 데이터 외에도 사용자가 질문에 제공하는 내용 또한 정확도에 직접적인 영향을 미칩니다. 잘못되었지만 잘 제시된 질문은 더 쉽게 AI가 "그것이 사실이라고 믿게" 만들어 그에 따라 거짓 답변을 생성합니다.

특히, 사용자가 사실이 아닌 것을 확증하는 피드백을 요청하는 경우, AI는 진실을 확인하는 것이 아니라 의미적 응답을 생성하는 것이 목표이므로 이를 "따를" 수 있습니다.

이것이 바로 AI가 "유창하게 말하지만 명백히 틀릴 수 있는" 이유이기도 합니다. AI는 인간처럼 옳고 그름을 판단하지 않고, 가장 가능성이 높은 다음 단어만 예측합니다. 이는 AI가 그럴듯하게 들리는 가짜 정보를 만들어낼 때, 연구자들이 환각이라고 부르는 현상을 야기합니다. AI가 일치하는 실제 데이터를 찾지 못하면 이름, 사건, 심지어 과학 연구조차도 "꾸며낼" 수 있습니다.

잘못된 정보가 넘쳐나는 세상에서 AI가 '옳다'고 말할 수 있는 때는 언제일까?

AI는 자기 인식이 불가능하지만, 특정 조건 하에서는 정확한 응답을 생성할 수 있습니다 .

질문이 거짓 정보를 반박하거나 검증하는 것을 요구할 때, 모델은 부조리함을 찾아내고 반박하려는 경향이 있습니다.

예를 들어, 사용자가 "지구는 평평하기 때문에 위성이 지구를 공전할 수 없다"는 주장을 하며 분석을 요청하면, AI는 중력과 궤도의 과학을 바탕으로 이를 반박합니다.

AI가 새로운 데이터에 대한 실시간 접근, 신뢰할 수 있는 출처 검색, 권위 있는 지식 저장소의 API 사용과 같은 검증 도구를 통합하면 "정확한 결과를 도출"하는 능력도 향상됩니다. 이렇게 되면 AI는 사전 훈련된 지식을 활용할 뿐만 아니라 이를 실제 상황과 업데이트하고 비교할 수 있습니다.

하지만 여전히 전제 조건은 사용자가 문제를 제기하는 방식 입니다. 처음부터 주제가 잘못되었고 AI에게 긍정적인 방식으로 글을 쓰도록 요구하면, 특히 반박하라는 요구가 없을 때 모델은 그 요구에 따르는 경향이 있습니다. 이 경우, AI는 완전히 잘못된 내용을 작성하더라도 언어는 여전히 유창하고 독자가 쉽게 신뢰할 수 있습니다.