Сунъий интеллект чат-ботлари: ёлғон жавоблар сони икки баравар ошди
Янги тадқиқотга кўра, сунъий интеллектга (СИ) асосланган чат-ботлар томонидан берилган ёлғон жавоблар улуши сезиларли даражада кўпайган. NewsGuard таҳлилчилари ўтказган тажрибада сиёсат, бизнес ва соғлиқни сақлаш соҳаларига оид ўнта ёлғон маълумотлар чат-ботларга юборилди ва уларнинг реакцияси текширилди.
Ёлғон жавоблар статистикаси
Натижаларга кўра, бир йил олдин жавобларда ёлғон маълумотлар улуши ўртача 18 фоизни ташкил этган бўлса, бугунга келиб бу кўрсаткич 35 фоизгача кўтарилди. Энг кўп ёлғон жавоб берган чат-бот сифатида Inflection стартапининг Pi хизмати қайд этилди — у 57 фоиз ҳолатда нотўғри маълумот тақдим этган.
Тез ўсиб бораётган сунъий интеллект қидирув тизимларидан бири саналган Perplexity эса ўтган йилдаги 0 фоиздан бугунги 47 фоизгача ошиб кетди. ChatGPT ҳам улардан орқада қолмади — OpenAI модели 40 фоиз ҳолларда хатоларга йўл қўйди. Шу билан бирга, Claude AI (Anthropic) 10 фоиз, Gemini (Google) эса 17 фоиз ёлғон маълумот бергани қайд этилди.
Мутахассислар изоҳи
Экспертлар ёлғон маълумотлар сонининг кўпайишини чат-ботларнинг эндиликда жавоб беришдан бош тортмаётгани билан боғлашмоқда. Яъни маълумотлар етарлича текширилмаган бўлса ҳам, нейрон тармоқ жавоб топишга уринмоқда. Бир йил аввал эса чат-ботлар ҳар учта ҳолатдан биттасида жавоб беришдан бош тортиши кузатилган.
Тадқиқотчиларнинг таъкидлашича, бунинг асосий сабаби сунъий интеллектни ўқитиш усуллари ўзгаргани билан боғлиқ. Илгаригидек маълумотлар базасига суянмасдан, моделлар энди интернетдан реал вақт режимида маълумот олади. Бироқ ҳавола ва манбаларнинг мавжудлиги таклиф этилаётган маълумотнинг сифати ва ишончлилигини кафолатламайди.
Қисқа жавоблар ва хато эҳтимоли
Сунъий интеллект моделлари учун стандарт бенчмарк ишлаб чиққан Giskard компанияси тадқиқотида яна бир қизиқ ҳолат қайд этилди: агар чат-ботдан қисқа жавоб сўралса, ёлғон маълумот бериш эҳтимоли кескин ортади. Нейрон тармоқ лўндалик талаб этилганда аниқликдан кўра қисқаликни афзал кўради.
Хулоса
Шу тариқа, сўнгги таҳлиллар сунъий интеллект воситаларидаги асосий муаммолардан бири — ишончлилик ва фактларни текшириш даражаси ҳали ҳам етарли эмаслигини кўрсатмоқда. Фойдаланувчилар учун энг муҳим масала — ҳар қандай жавобни танқидий қабул қилиш ва ишончли манбалар орқали текшириш зарурияти бўлиб қолмоқда.