Miksi tekoäly hallusinoi – ja mitä asialle voi tehdä

Käytän tekoälyä töissä päivittäin. Ja olen huomannut, että se keksii asioita ollakseen avulias. Se väittää tietävänsä, vaikka se vain arvaa.

Tätä kutsutaan hallusinaatioksi. Tekoäly tuottaa tekstiä, joka kuulostaa vakuuttavalta, on hyvin perusteltua ja kieliopillisesti täydellistä — mutta väärin. Se ei valehtele tarkoituksella. Sillä ei ole tarkoitusta. Se vain tekee parhaansa siinä, mihin se on koulutettu: ennustamaan seuraavaa sanaa.

Tässä postauksessa selitän, mikä tämä ilmiö on, miksi se tapahtuu ja miten voit vähentää sitä. Olen kaivanut Anthropicin omia materiaaleja, alan tutkimusta ja omaa kokemustani.

Miksi tämä tapahtuu?

Tekoäly ei ajattele kuin ihminen. Pohjimmiltaan se on äärimmäisen kehittynyt seuraavan sanan ennustaja. Se on lukenut miljardeja sivuja tekstiä internetistä, kirjoista ja dokumenteista, ja oppinut mitkä sanat tyypillisesti seuraavat toisiaan.

Kun kysyt siltä jotain, se ei "tarkista faktatietokantaa" vastauksen varalta. Se ei avaa Wikipediaa. Se katsoo omia parametrejaan ja arvaa todennäköisimmän jatkon.

Tämä toimii hyvin, kun aihe on yleinen ja dataa on paljon. Mutta kun kysyt jostain niche-aiheesta, harvinaisesta nimestä tai tarkasta tilastoluvusta, mallin täytyy arvata. Ja koska se on koulutettu olemaan avulias, se mieluummin keksii vastauksen kuin sanoo "en tiedä."

Miten tunnistaa hallusinaatio

Tekoälyn hallusinaatio on vaarallista juuri siksi, että se näyttää oikealta vastaukselta. Se ei kirjoita "ööh, en tiedä" — se tarjoaa yksityiskohtaisen, hyvin jäsennellyn selityksen. Olen huomannut, että hallusinaatio tulee usein ilmi vasta kun:

• Pyydän lähdeviittauksia. Tekoäly saattaa keksiä tutkimuspapereita, jotka kuulostavat uskottavilta mutta eivät ole olemassa.
• Kysyn saman kysymyksen uudelleen eri tavalla. Jos vastaus muuttuu merkittävästi, se ei ole varma aiheesta.
• Pyydän liian tarkkaa tai niche-tietoa. Tekoäly on yleensä hyvä yleistiedossa mutta heikko harvinaisissa yksityiskohdissa.

Miten vähentää hallusinaatiota käytännössä

Olen oppinut muutaman konkreettisen keinon, jotka toimivat:

Anna lupa sanoa "en tiedä." Jos sanot kehotteessasi "Jos et ole varma, sano ettet tiedä," tekoäly tekee niin yllättävän usein. Se poistaa paineen keksiä vastaus.