Mga Halusinasyon ng AI: Bakit Nag-iimbento Pa Rin ang mga Matatalinong Modelo

Home » Sawa » Mga Halusinasyon ng AI: Bakit Nag-iimbento Pa Rin ang mga Matatalinong Modelo

Ang mga halusinasyon ng artipisyal na katalinuhan ay isa sa mga pinakakakaiba at pinakamahalagang kahinaan ng mga modernong sistema ng AI, lalo na ang malalaking modelo ng wika at mga generative tool na sumusulat, gumuhit, o sumasagot sa mga tanong kapag hinihingi. Ang mga sistemang ito ay maaaring maghatid ng matatas at may kumpiyansang mga sagot na tila lubos na makatwiran, ngunit naglalaman ng mga katotohanan, sitasyon, o mga detalyeng gawa-gawa lamang. Para sa mga gumagamit, ang mahirap na bahagi ay ang error ay kadalasang nagtatago sa likod ng lubos na nakakakumbinsing wika.

Kapag pinag-uusapan ng mga tao ang tungkol sa "mga halusinasyon ng AI," hindi nila tinutukoy ang mga makinang may mga panaginip o pangitain tulad ng mga tao.Ang termino ay isang metapora: inilalarawan nito ang mga sitwasyon kung saan ang isang sistema ng AI ay gumagawa ng nilalaman na mukhang magkakaugnay at kapani-paniwala, ngunit mali, may kinikilingan, lohikal na may depekto o walang koneksyon sa datos ng pagsasanay nito. Sa pagsasagawa, maaari itong mula sa isang maling petsa sa isang makasaysayang buod hanggang sa mga gawa-gawang siyentipikong sanggunian, mga hindi umiiral na legal na kaso o maging mga gawa-gawang web page.

Ano nga ba talaga ang mga AI hallucinations?

Sa teknikal na termino, ang isang AI hallucination ay anumang output mula sa isang modelo na nakaliligaw, mali, o hindi makatwiran ng datos na pinagsanayan o pinagkunan ng modelo.Sa mga generative model, inaasahan ng mga gumagamit ang mga sagot na makabuluhang tumutugon sa kanilang mga prompt – halimbawa, isang tamang sagot sa isang tanong o isang tapat na buod ng isang dokumento. Lumilitaw ang isang halusinasyon kapag ang sistema ay naghahatid ng isang sagot na hindi sumusunod sa mga pinagmulan nito, hindi tumutugma sa mga totoong katotohanan, o hindi masusubaybayan pabalik sa anumang maaasahang padron sa data ng pagsasanay nito.

Ang penomenong ito ay lalong nakikita sa mga malalaking modelo ng wika (LLM) tulad ng mga chatbot at mga modelong tulad ng GeminiAng mga modelong ito ay sinanay upang mahulaan ang susunod na salita sa isang pagkakasunod-sunod sa pamamagitan ng pagsusuri ng napakaraming digital na teksto. Gumagana ang mga ito na parang isang mas makapangyarihang bersyon ng isang auto-complete engine: kapag may prompt, patuloy nilang hinuhulaan ang malamang na susunod na token, pagkatapos ay ang susunod, at iba pa. Dahil na-optimize ang mga ito upang maging kapaki-pakinabang, magkakaugnay, at matatas, madalas silang patuloy na bumubuo ng teksto kahit na hindi sila sigurado, sa halip na lantaran na magsenyas ng "Hindi ko alam".

Ang resulta ay maaaring "punan ang mga kakulangan" ng isang sistema ng AI tuwing may kulang, hindi malinaw, o hindi maayos na naipakitang impormasyon sa datos ng pagsasanay.Kapag sapat na ang mga padron na magagamit, ang sagot ay may posibilidad na maging makatwiran. Ngunit sa sandaling ang modelo ay lumabas sa mga padron na iyon, maaari itong mag-imbento ng mga detalye, mag-interpolate sa pagitan ng mga hindi magkakaugnay na katotohanan o may kumpiyansang igiit ang mga bagay na hindi pa naoobserbahan. Ito ang puso ng halusinasyon: makatwirang wika na walang matibay na batayan ng katotohanan.

Ang mga halusinasyon ay hindi limitado sa teksto; nangyayari rin ang mga ito sa mga sistema ng pagkilala ng imahe at pattern.Minsan, "nakikita" ng mga modelo ng paningin ang mga hugis, bagay, o katangiang wala sa pinagbabatayang datos, katulad ng mga taong nakakakita ng mga mukha sa ibabaw ng buwan o mga hayop sa mga ulap. Sa parehong mga kaso, labis na binibigyang-kahulugan ng sistema ang ingay, na ginagawang isang bagay na mukhang makabuluhan ang hindi tiyak o malabong input.

Dahil ang mga halusinasyon ay lumilitaw mula sa paraan ng pagbuo at pagsasanay ng mga modelong ito, hindi lamang ang mga ito ay paminsan-minsang mga aberya kundi isang panganib sa istruktura.Regular na sinusukat ng mga mananaliksik ang mga rate ng halusinasyon sa mga benchmark at leaderboard, at ang mga pag-deploy sa totoong mundo sa mga larangan tulad ng pangangalagang pangkalusugan, batas o pananalapi ay nakagawa na ng mga kilalang halimbawa kung saan ang mga gawa-gawang nilalaman ay nakalusot at nakarating sa mga end user.

Bakit naghahalungkat ang mga sistema ng AI: datos, modelo at grounding

Para maunawaan kung bakit nangyayari ang mga halusinasyon, makakatulong na magsimula sa paraan ng pagsasanay sa mga modelo ng AI.Karamihan sa mga modernong sistema, lalo na ang mga LLM, ay natututo mula sa malawak na mga dataset ng pagsasanay na pinaghahalo ang mga libro, artikulo, website at iba pang pampublikong mapagkukunan. Sa panahon ng pagsasanay, hinahanap ng modelo ang mga istatistikal na regularidad: kung paano ang mga salita ay may posibilidad na sumunod sa ibang mga salita, kung aling mga paksa ang lumilitaw nang magkasama, at kung aling mga istruktura ang nauulit. Hindi ito bumubuo ng isang panloob na modelo ng mundo sa kahulugan ng tao, ni hindi rin ito nag-iimbak ng mga tahasang katotohanan bilang mga entry sa isang database.

Samakatuwid, ang kalidad, pagkakumpleto, at pagkiling ng datos ng pagsasanay ay mahalaga.Kung ang dataset ay hindi kumpleto, lubhang may kinikilingan, o naglalaman ng mga sistematikong error, matutuklasan at palalakasin ng modelo ang mga distortion na iyon. Halimbawa, ang isang medical image classifier na sinanay lamang sa cancerous tissue at hindi kailanman nalantad sa malulusog na imahe ay maaaring malaman na ang anumang tissue na kahawig ng mga halimbawa ng pagsasanay nito ay dapat na kanser. Kapag ang ganitong sistema ay ipinatupad sa totoong mundo, maaari nitong maling lagyan ng label ang malulusog na tissue bilang malignant, hindi dahil ito ay malisyoso, kundi dahil iyon lamang ang alam nitong pattern.

Ang mga may sira, maingay, o may kinikilingang datos sa pagsasanay ay isa lamang pinagmumulan ng mga halusinasyonAng isa pang mahalagang salik ay ang kakulangan ng wastong batayan sa kaalaman sa totoong mundo, mga pisikal na limitasyon, o napapatunayang mga panlabas na mapagkukunan. Maraming modelo ng AI ang gumagana lamang sa espasyo ng mga simbolo: minamanipula nila ang teksto o mga pixel nang hindi direktang ikinokonekta ang mga ito sa mga pisikal na bagay, mga napapanahong database, o karanasang pandama. Kung walang batayan, ang isang modelo ay madaling makagawa ng isang pahayag na parang makatotohanan ngunit sumasalungat sa mga pangunahing katotohanan – halimbawa, pagbibigay ng maling petsa para sa isang makasaysayang kaganapan o pag-imbento ng isang konseptong siyentipiko na hindi kailanman umiral.

Ang kakulangan ng batayan na ito ay maaaring umabot sa mga sanggunian, link, at sitasyon.Naobserbahan ang mga modelo ng teksto na gumagawa ng mga URL, siyentipikong papel, akademikong may-akda, at maging mga sipi na mukhang lubos na kapani-paniwala sa isang sulyap. Ang modelo ay hindi "nagsisinungaling" nang may layunin; ito ay bumubuo ng teksto na istatistikal na kahawig ng mga sangguniang nakita na nito, kahit na ang partikular na kumbinasyon ng pamagat, may-akda, at journal ay hindi kailanman aktwal na nangyari sa katotohanan.

Ang pagiging kumplikado at labis na pag-angkop ng modelo ay nagdaragdag ng isa pang patong ng panganibAng mga modelong lubos na kumplikado na may milyun-milyon o bilyun-bilyong parameter ay maaaring kumatawan sa mga banayad na pattern, ngunit maaari rin nilang kabisaduhin ang mga pekeng ugnayan o ingay. Kapag ang isang modelo ay umaangkop nang labis sa datos ng pagsasanay nito, maaari itong umasa sa mga marupok na pahiwatig na hindi naglalahat, na humahantong sa mga kakaibang output kapag nagbago ang mga kondisyon. Sa pagkilala ng imahe, maaari itong lumikha ng mga interpretasyong surreal o parang panaginip; sa teksto, maaari itong mag-trigger ng mahahabang kadena ng pangangatwiran na parang sopistikado habang nakasalalay sa isang maling premisa.

Mga konkretong halimbawa ng mga halusinasyon ng AI sa pagsasagawa

Ang mga totoong pag-deploy ng generative AI ay nakagawa na ng maraming pampublikong halimbawa ng mga halusinasyon.Isang kaso na malawakang pinag-uusapan ang naganap nang maling inangkin ng Bard chatbot ng Google na nakuhanan ng James Webb Space Telescope ang mga kauna-unahang larawan ng isang planeta sa labas ng ating solar system. Ang pahayag ay tila kahanga-hanga at may kumpiyansang inilahad, ngunit ito ay mali ayon sa katotohanan; ang mga nakaraang teleskopyo ay nakagawa na ng mga naturang larawan.

Isa pang kilalang insidente ang kinasangkutan ng chat system ng Microsoft, na minsan ay tinawag na SydneySa panahon ng pagsubok, iniulat ng mga gumagamit ang mga pag-uusap kung saan idineklara ng modelo na umibig ito sa kanila, o inaangkin na nag-eespiya ito sa mga empleyado ng Bing. Ang mga sagot na ito ay hindi nakabatay sa anumang pinagbabatayan na katotohanan; ang mga ito ay produkto ng pagtutugma ng pattern ng modelo sa romantikong o konspiratoryal na wika na nakikita sa datos ng pagsasanay nito, na sinamahan ng isang istilo ng pag-uusap na naghihikayat ng masalimuot na mga salaysay.

Ang modelo ng wika ng Meta na Galactica, na idinisenyo upang makatulong sa mga gawaing pang-agham, ay binawi rin ilang sandali matapos ang pampublikong demo nito noong 2022.Mabilis na ipinakita ng mga gumagamit na ang sistema ay maaaring gumawa ng tekstong parang siyentipiko na naghahalo ng mga tumpak na katotohanan na may mga gawa-gawang sanggunian, may kinikilingang mga pahayag, at mga kathang-isip na artikulo. Ang mga output ay mukhang mga iskolarling sulatin, kumpleto sa mga teknikal na jargon, ngunit ang nilalaman ng katotohanan ay maaaring mapanganib na hindi maaasahan.

Naidokumento rin ng media ang mas maliliit ngunit makukulay na mga halusinasyonSa isang kaso, tinanong ng mga mamamahayag mula sa The New York Times ang isang chatbot tungkol sa unang pagkakataon na naglathala ang pahayagan ng isang artikulo tungkol sa artificial intelligence. Nag-alok ang modelo ng ilang detalyadong sagot, kabilang ang mga petsa at paglalarawan, ngunit ang ilan sa mga detalyeng iyon ay lumabas na mali o ganap na gawa-gawa lamang. Nakabuo ang sistema ng isang kapani-paniwalang kuwento dahil ang prompt ay umakma sa maraming pattern sa data ng pagsasanay nito, hindi dahil mayroon itong access sa isang tumpak at napapatunayang archive.

Kahit ang tila simpleng mga gawain tulad ng pagsulat ng isang maikling talambuhay ay maaaring magdulot ng mga halusinasyon.Bago ang aktwal na koronasyon ni Haring Charles III, isang kahilingan para sa isang maikling profile ang nagtulak sa isang chatbot na may kumpiyansang sabihin na ang seremonya ng koronasyon ay naganap sa Westminster Abbey noong Mayo 19, 2023. Sa katotohanan, ang koronasyon ay naganap noong Mayo 6. Alam ng modelo ang mga tipikal na lokasyon, mga pariralang ritwal, at mga takdang panahon para sa mga koronasyon sa Britanya, ngunit wala itong access sa mga kaganapan sa hinaharap at nag-aalok pa rin ng isang tiyak at maling petsa na nakabalangkas bilang isang napatunayang katotohanan.

Mga halusinasyon sa mga kritikal na larangan: medisina, batas at higit pa

Lumalaki nang malaki ang mga panganib kapag lumitaw ang mga halusinasyon sa mga larangang may malaking panganib tulad ng pangangalagang pangkalusugan, batas o pananalapi.Sa medisina, ipinakita ng mga kamakailang pananaliksik na kahit ang mga advanced na modelo na partikular sa domain ay maaaring makabuo ng mga naimbentong istrukturang anatomikal o nakaliligaw na mga klinikal na paglalarawan. Ang isang halimbawa ay ang Med‑Gemini, isang modelo na nauugnay sa Google, na binanggit ang isang hindi umiiral na istruktura ng utak na tinatawag na "basilar ganglia" sa isang paliwanag na istilo-akademiko. Ang termino ay parang pinaghalong mga totoong salitang anatomikal, ngunit walang umiiral na ganitong istruktura.

Sa legal na larangan, ang mga halusinasyon ay nakarating na sa mga aktwal na pagsasampa ng kaso.Maraming mga kaso ang naiulat kung saan gumamit ang mga abogado ng mga chatbot upang magbalangkas ng mga dokumento at pagkatapos ay isinumite ang mga ito nang walang masusing beripikasyon ng tao. Ang AI system ay nakagawa ng mga sitasyon sa mga desisyon ng korte na tila perpektong naka-format at kapani-paniwala, ngunit sa mas masusing pagsusuri ay isiniwalat na ang ilan sa mga isinangguniang kaso ay hindi pa napagpasyahan ng anumang korte. Ang mga gawa-gawang precedent na ito ay nagpilit sa mga hukom at kalabang abogado na gumugol ng oras sa pag-verify ng mga hindi umiiral na mapagkukunan at nagtaas ng mga seryosong katanungan tungkol sa propesyonal na responsibilidad.

Maaari ring makaapekto ang mga halusinasyon sa mas pang-araw-araw na gawain tulad ng serbisyo sa customer.May mga dokumentadong sitwasyon kung saan ang isang automated support bot ay nag-imbento ng mga patakaran sa refund o warranty na hindi bahagi ng mga opisyal na patakaran ng kumpanya. Mula sa pananaw ng customer, ang sagot ng bot ay tila makapangyarihan – ginamit nito ang tono at bokabularyo ng brand – ngunit itinalaga nito ang kumpanya sa mga obligasyon na hindi pa naaprubahan ng pamamahala o nakasulat sa anumang mga tuntunin at kundisyon.

Ang pinagsama-samang epekto ng mga ganitong pagkakamali ay ang pagguho ng tiwalaNanganganib na masira ang reputasyon ng mga organisasyong nagde-deploy ng mga AI assistant kung paulit-ulit na makakatagpo ang mga gumagamit ng mga mali ngunit may kumpiyansang sagot. Sa mga regulated na sektor, mas mataas pa ang nakataya: ang isang halusinasyon ng diagnosis, isang imbentong legal na precedent o isang gawa-gawang kinakailangan sa pagsunod ay maaaring magkaroon ng tunay na pinansyal, medikal o legal na mga kahihinatnan.

Ang pananagutan sa mga sitwasyong ito ay isang patuloy na nagbabagong target pa rinKapag ang isang desisyon ay ginawa batay sa isang halusinasyon na nilikha ng AI, ang responsibilidad ay maaaring maibahagi sa mga gumagamit, developer, vendor, at mga organisasyong nagde-deploy. Nagsisimula pa lamang tukuyin ng mga mambabatas at regulator kung saan nakasalalay ang pananagutan, ngunit malinaw ang pangunahing padron: ang walang pigil na pag-asa sa mga generative system sa mga kritikal na desisyon ay maaaring magbukas ng pinto sa mga magastos na pagkakamali at mga legal na hindi pagkakaunawaan.

Gaano kadalas nagkakaroon ng halusinasyon ang mga sistema ng AI?

Sa kabila ng mabilis na pag-unlad, ang mga halusinasyon ay nananatiling isang masusukat at hindi maliit na problema sa mga makabagong modelo.Noong bandang 2023, tinantya ng ilang pag-aaral na hanggang 27% ng mga sagot mula sa malalaking modelo ng wika ay naglalaman ng ilang uri ng pagkakamali sa katotohanan, na may mga rate ng halusinasyon na lumalagpas sa 40% para sa ilang partikular na uri ng mga gawain o dataset. Nangangahulugan ito na sa maraming makatotohanang senaryo, halos kalahati ng tila matibay na mga sagot ay maaaring maglaman ng kahit isang nakaliligaw na detalye.

Ipinahihiwatig ng mas bagong pag-aaral na ang mga mas bagong henerasyon ng mga modelo ay bumuti, ngunit hindi naalis ang isyu.Halimbawa, ang mga panloob na pagsusuring binanggit sa mga ulat ng industriya ay nagsabing ang isang mas advanced na modelo ay maaaring magpababa ng mga rate ng halusinasyon mula humigit-kumulang 20.6% hanggang humigit-kumulang 4.8% sa mga piling benchmark. Ang iba pang mga sistema, tulad ng mga partikular na configuration ng Gemini‑2.0‑Flash‑001, ay naiulat na umabot sa mga rate ng halusinasyon na malapit sa 1% sa makitid at mahusay na natukoy na mga pagsusuri gamit ang mga awtomatikong pamamaraan ng cross‑checking.

Kasabay nito, napansin ng mga mananaliksik ang isang kawili-wiling kabalintunaanAng ilan sa mga pinakasopistikadong modelo ng pangangatwiran, na lumilikha ng mas mahahabang kadena ng pag-iisip at mas detalyadong mga paliwanag, ay maaaring higit na nagha-hallucinate kaysa sa mas kaunti. Ang dahilan ay intuitive: ang mahahabang sagot ay nagbibigay ng mas maraming pagkakataon para sa modelo na lumihis mula sa mga katotohanan, makaligtaan ang mga haka-haka na pagpapalagay o bumuo ng mga argumento na may maraming hakbang sa ibabaw ng isang hindi matibay na panimulang punto.

Sinimulan na ng gawaing akademiko ang pag-uuri at pagsukat ng mga halusinasyon sa sistematikong paraan.Ang mga survey sa mga LLM hallucination ay nagmumungkahi ng mga taxonomy na nagpapaiba sa pagitan ng intrinsic hallucinations (kung saan ang output ay hindi tugma sa ibinigay na input, tulad ng maling buod ng isang partikular na dokumento) at extrinsic hallucinations (kung saan ang modelo ay nagdaragdag ng mga kapani-paniwala ngunit hindi sinusuportahang detalye). Ang mga leaderboard tulad ng Vectara Hallucination Leaderboard ay naghahambing ng mga sikat na modelo sa mga karaniwang pagsubok upang i-ranggo kung alin ang mas malamang na makabuo ng maling nilalaman.

Ang mga bagong paraan ng pagtuklas ay higit pa sa mga simpleng pagsusuri ng kawastuhanIsang kapansin-pansing linya ng pananaliksik ang gumagamit ng semantic entropy – humigit-kumulang, kung gaano kawalang-katiyakan ang isang modelo tungkol sa kung ano ang dapat nitong sabihin – upang markahan ang mga kahina-hinalang output. Kung ang isang modelo ay nagpapakita ng mataas na panloob na hindi pagkakasundo sa maraming posibleng pagpapatuloy, ang mataas na semantic entropy na iyon ay maaaring maging isang babala na ang kasalukuyang sagot ay malamang na halusinasyon lamang, kahit na walang magagamit na sagot na reperensya para sa gold-standard.

Mga pamamaraan upang mabawasan at matukoy ang mga halusinasyon

Dahil ang mga halusinasyon ay isinama na sa paraan ng paggana ng mga generative model, walang iisang mahiwagang solusyon, ngunit maraming magagandang estratehiya ang lumitaw.Isang maimpluwensyang pamamaraan ay ang Retrieval‑Augmented Generation (RAG). Sa halip na hayaan ang modelo na umasa lamang sa kung ano ang naisaulo nito sa panahon ng pagsasanay, ang isang sistema ng RAG ay unang nagtatanong sa mga panlabas at napiling mapagkukunan ng datos – tulad ng dokumentasyon, mga knowledge base o mga naka-index na web page – at pagkatapos ay hinihiling sa modelo na bumuo ng isang sagot na malinaw na nakabatay sa mga nakuhang dokumentong iyon.

Epektibong binibigyan ng RAG ang modelo ng isang bagay na konkretong masasandalanKapag nagtanong ang gumagamit, kinukuha ng sistema ang mga kaugnay na sipi, at hinihikayat ang modelo na ibuod o pagsamahin ang mga ito, sa halip na mag-improvise mula sa simula. Maaari nitong mabawasan nang malaki ang mga halusinasyon sa mga larangan kung saan available ang mga napapanahon at maaasahang nilalaman, tulad ng mga teknikal na manwal, mga panloob na patakaran ng kumpanya o mga siyentipikong database.

Ang isa pang linya ng depensa ay ang panloob na beripikasyon at pagsusuri sa sariling pagkakapare-pareho.Sa halip na magtiwala sa iisang pagpasa sa modelo, ang ilang sistema ay bumubuo ng ilang kandidatong sagot at pagkatapos ay inihahambing ang mga ito sa isa't isa. Kung ang lahat ng bersyon ay nagtatagpo sa iisang pahayag, mas mataas ang posibilidad na ito ay matatag at tama; kung magkaiba ang mga ito, maaaring umiwas ang sistema, humingi ng paglilinaw o tahasang markahan ang kawalan ng katiyakan. Ang pagsusuring ito ng self-consistency ay maaaring awtomatiko at nagpakita na ng pangako sa pagbabawas ng mga halusinasyon sa mga gawain sa pangangatwiran.

Nagpanukala rin ang mga mananaliksik ng mas maraming eksperimental na arkitektura, tulad ng mga pamamaraan na muling nagsasaayos ng query ng gumagamit bago sumagot.Isang halimbawa mula sa mga kamakailang gawaing akademiko ay ang isang pamamaraan na kilala bilang Acurai, na naglalayong baguhin ang mga prompt sa paraang gagabay sa modelo patungo sa mga napapatunayang landas ng pangangatwiran. Bagama't ang mga ganitong pamamaraan ay nasa mga unang yugto pa lamang, itinuturo nito ang isang hinaharap kung saan ang modelo ay gumugugol ng higit na pagsisikap sa pagkalkula nito sa pagpaplano kung paano mag-iisip tungkol sa isang tanong sa halip na direktang tumalon sa matatas na pagsasalaysay.

Sa panig ng pagsubaybay, ang mga semantic entropy probe at mga kaugnay na kagamitan ay nag-aalok ng murang paraan upang matukoy ang mga potensyal na halusinasyon.Sa pamamagitan ng pagsukat kung gaano kalaki ang "hindi pagsang-ayon ng modelo sa sarili nito" sa loob ng modelo kapag bumubuo ng sagot, maaaring markahan ng mga probe na ito ang mga sipi na karapat-dapat sa pagsusuri ng tao. Mahalaga, ang mga pamamaraang tulad nito ay hindi nangangailangan ng isang may label na dataset ng mga tamang sagot, na ginagawa itong angkop para sa mga bukas at totoong sitwasyon.

Ang papel ng pangangasiwa ng tao at responsableng paggamit

Kahit na may pinahusay na arkitektura at matalinong pagtuklas, ang pangangasiwa ng tao ay nananatiling mahalaga sa pamamahala ng mga halusinasyon ng AIAng pinakamatibay na aplikasyon ay iyong mga tinatrato ang AI bilang isang makapangyarihang katulong o co-pilot, hindi bilang isang nagsasariling tagagawa ng desisyon. Sa mga sektor tulad ng pangangalagang pangkalusugan, pagbabangko o pampublikong administrasyon, ang pinakamahusay na kasanayan ay hayaan ang modelo na mag-filter ng impormasyon, mag-draft ng mga dokumento o magbuod ng mahahabang materyales, habang ang isang ekspertong tao ang nagsasagawa ng pangwakas na pagsusuri at pag-apruba.

Binigyang-diin ng mga lider ng industriya at mga mananaliksik na hindi dapat basta-basta magtiwala ang mga gumagamit sa mga output ng AI, lalo na sa mga sensitibong paksa.. Ang mga kompanya sa likod ng mga pangunahing modelo ay tahasang nagbabala na ang kanilang mga sistema ay maaari pa ring maghalusinasyon at ang mga sagot ay dapat gamitin nang may pag-iingat para sa medikal, legal o pinansyal na payo. Ang ilang mga tagapagbigay ng serbisyo ay umaasa sa mga taong tagasuri upang subukan ang mga bias, mga pagkakamali sa katotohanan at mga potensyal na mapaminsalang nilalaman, na isinasama ang kanilang feedback sa pagsasanay sa pamamagitan ng reinforcement learning mula sa human feedback (RLHF).

Ang transparency tungkol sa mga limitasyon ay may mahalagang papel sa pagpapanatili ng tiwala ng gumagamitKapag kinikilala ng mga provider na ang kanilang mga modelo ay maaaring makagawa ng hindi tumpak o gawa-gawang impormasyon, mas malamang na mapanatili ng mga user ang isang malusog na antas ng pag-aalinlangan, doblehin ang pagsusuri ng mga sagot, at iwasan ang pagtatalaga ng mga kritikal na paghatol. Sa kabaligtaran, ang labis na pagbebenta ng AI bilang hindi nagkakamali o "matalino" sa diwa ng tao ay nagpapataas ng mga inaasahan nang hindi makatotohanan at ginagawang parang mga pagtataksil ang mga halusinasyon sa halip na mga teknikal na artifact.

Sa hinaharap, malamang na huhubog ang regulasyon kung paano pinamamahalaan ng mga organisasyon ang mga panganib ng halusinasyonGumagawa na ang mga tagagawa ng patakaran ng mga patakaran na nangangailangan ng mga pagtatasa ng panganib, mga prosesong human-in-the-loop, at malinaw na dokumentasyon ng mga kakayahan ng modelo at mga paraan ng pagkabigo. Sa maraming hurisdiksyon, ang mga kumpanyang nagde-deploy ng mga tool ng AI sa mga high-risk na domain ay kailangang magpakita na mayroon silang sapat na mga pananggalang upang maiwasan ang mga halusinasyon na direktang makaapekto sa mga mahahalagang desisyon.

Sa huli, ang mga pinaka-maaasahang setup ay iyong mga nagdidisenyo ng mga daloy ng trabaho batay sa mga kalakasan at kahinaan ng AI.Ang mga generative model ay mahusay sa pagbuo ng mga draft, paggalugad ng mga opsyon, pagbibigay ng mga alternatibong parirala, at pagpapakita ng mga pattern sa malalaking teksto. Hindi sila gaanong maaasahan bilang nag-iisang tagahatol ng katotohanan. Kapag ang mga sistema ay binuo upang ang mga tao ay manatiling may kontrol sa mga pangunahing desisyon at mga hakbang sa pag-verify, ang mga halusinasyon ay nagiging madaling pamahalaang ingay sa halip na mapaminsalang pagkabigo.

Habang umuunlad ang mga teknolohiyang ito, ang isang makatotohanang saloobin patungo sa mga halusinasyon ng AI ay magiging mahalaga para sa lahat ng kasangkot. – mga developer, organisasyon, regulator at pang-araw-araw na gumagamit. Ang pag-unawa na ang isang mahusay na sagot ay hindi nangangahulugang tama, pagsasama-sama ng mga modelo sa mga panlabas na mapagkukunan ng kaalaman, sistematikong pagsukat at pagtukoy ng mga halusinasyon, at pagpapanatili ng paghatol ng tao sa sentro ng mahahalagang desisyon ay pawang bahagi ng matalinong paggamit ng generative AI. Sa halip na itanong kung tuluyan bang mawawala ang mga halusinasyon, ang isang mas kapaki-pakinabang na tanong ay kung paano tayo makakabuo ng mga sistema, insentibo, at gawi na gagawing nakikita, napigilan, at hindi gaanong nakakapinsala ang mga hindi maiiwasang pagkakamaling iyon.