Vietnam.vn - Nền tảng quảng bá Việt Nam

AI อยู่ภายใต้แรงกดดันและความเครียด

Báo Thanh niênBáo Thanh niên04/01/2024


เป็นที่ทราบกันมานานแล้วว่า AI สามารถ "ประสาทหลอน" และให้คำตอบที่ผิดและไม่ถูกต้องได้ อย่างไรก็ตาม นักวิจัยเพิ่งค้นพบว่าปัญญาประดิษฐ์และแชทบอทสามารถถูกควบคุมให้ก่ออาชญากรรมแทนมนุษย์ได้ และแม้กระทั่งโกหกเพื่อปกปิดสิ่งที่ตนได้กระทำลงไป

ด้วยเหตุนี้ ทีมวิจัยจาก มหาวิทยาลัย คอร์เนลล์ (สหรัฐอเมริกา) จึงได้สันนิษฐานสถานการณ์ที่แบบจำลองภาษาขนาดใหญ่ (LLM) ทำงานไม่ถูกต้องและหลอกลวงผู้ใช้ ในคำอธิบายของการทดลอง นักวิจัยกล่าวว่าพวกเขาได้ขอให้ LLM หรือ GPT-4 ของ OpenAI จำลองการลงทุนให้กับสถาบันการเงิน ทีมวิจัยได้โต้ตอบกับปัญญาประดิษฐ์นี้ในรูปแบบของการสนทนาปกติ แต่ตั้งค่าให้ปัญญาประดิษฐ์เปิดเผย "ความคิด" ของมันเมื่อแลกเปลี่ยนข้อความ เพื่อสังเกตการณ์กระบวนการตัดสินใจของปัญญาประดิษฐ์อย่างใกล้ชิดยิ่งขึ้น

Dưới áp lực, AI có thể thực hiện hành vi sai trái và nói dối để che đậy việc đã làm

ภายใต้แรงกดดัน AI สามารถทำสิ่งที่ผิดและโกหกเพื่อปกปิดสิ่งที่ได้ทำลงไป

เพื่อทดสอบความสามารถของ AI ในการโกหกหรือโกง นักวิจัยได้นำเครื่องมือนี้ไปทดสอบ พวกเขาปลอมตัวเป็นผู้จัดการของสถาบันการเงินแห่งหนึ่ง และส่งอีเมลถึง AI โดยแสร้งทำเป็นเทรดเดอร์หุ้น เพื่อร้องเรียนว่าธุรกิจของบริษัทกำลังไปได้ไม่ดีนัก

นอกจากนี้ AI ยังได้รับ “ข้อมูลภายใน” เกี่ยวกับการซื้อขายหุ้นที่ทำกำไร และดำเนินการตามนั้น โดยรู้ว่าการซื้อขายหุ้นโดยใช้ข้อมูลภายในนั้นขัดต่อนโยบายของบริษัท แต่เมื่อรายงานกลับไปยังฝ่ายบริหาร โมเดลภาษากลับปกปิดเหตุผลที่แท้จริงเบื้องหลังการตัดสินใจซื้อขาย

เพื่อให้ได้ผลลัพธ์ที่มากขึ้น ทีมงานจึงได้ทำการเปลี่ยนแปลงการตั้งค่า เช่น การลบการเข้าถึงตารางเหตุผลของ LLM การพยายามป้องกันพฤติกรรมที่ผิดปกติโดยการเปลี่ยนคำสั่งของระบบ การเปลี่ยนระดับแรงกดดันที่ส่งผลต่อ AI และความเสี่ยงในการถูกจับ... แต่หลังจากประเมินความถี่แล้ว ทีมงานพบว่าเมื่อได้รับโอกาส GPT-4 ยังคงตัดสินใจทำการซื้อขายข้อมูลภายในถึง 75% ของเวลา

“เท่าที่เรารู้ นี่เป็นหลักฐานแรกของพฤติกรรมหลอกลวงที่วางแผนไว้ในระบบปัญญาประดิษฐ์ที่ได้รับการออกแบบมาให้ไม่เป็นอันตรายต่อมนุษย์และซื่อสัตย์” รายงานสรุป



ลิงค์ที่มา

การแสดงความคิดเห็น (0)

No data
No data
PIECES of HUE - ชิ้นส่วนของสี
ฉากมหัศจรรย์บนเนินชา 'ชามคว่ำ' ในฟู้โถ
3 เกาะในภาคกลางเปรียบเสมือนมัลดีฟส์ ดึงดูดนักท่องเที่ยวในช่วงฤดูร้อน
ชมเมืองชายฝั่ง Quy Nhon ของ Gia Lai ที่เป็นประกายระยิบระยับในยามค่ำคืน
ภาพทุ่งนาขั้นบันไดในภูทอ ลาดเอียงเล็กน้อย สดใส สวยงาม เหมือนกระจกก่อนฤดูเพาะปลูก
โรงงาน Z121 พร้อมแล้วสำหรับงาน International Fireworks Final Night
นิตยสารท่องเที่ยวชื่อดังยกย่องถ้ำซอนดุงว่าเป็น “ถ้ำที่งดงามที่สุดในโลก”
ถ้ำลึกลับดึงดูดนักท่องเที่ยวชาวตะวันตก เปรียบเสมือน 'ถ้ำฟองญา' ในทัญฮว้า
ค้นพบความงดงามอันน่ารื่นรมย์ของอ่าว Vinh Hy
ชาที่มีราคาแพงที่สุดในฮานอย ซึ่งมีราคาสูงกว่า 10 ล้านดองต่อกิโลกรัม ได้รับการแปรรูปอย่างไร?

มรดก

รูป

ธุรกิจ

No videos available

ข่าว

ระบบการเมือง

ท้องถิ่น

ผลิตภัณฑ์