Kai ChatGPT kuria vaizdus be nuotraukos: keista klaida

Vienas tvitas įprastą eksperimentą pavertė keista maža interneto paslaptimi. Vienas X naudotojas teigė paprašęs ChatGPT vaizdų įrankio „atkurti pridėtą nuotrauką“, nors jokios pridėtos nuotraukos nebuvo. Modelis nesustojo. Jis ją išgalvojo.

Rezultatas? Keisti, nejaukūs vaizdai, primenantys kamerą, nukreiptą į karščiuojančio sapną. Veidai išsikraipo. Fonai išsiskleidžia į neįmanomas tekstūras. Naudotojai juos vadino šiurpiais, kartais tiesiog košmariškais. Trumpi raginimai. Laukiniai rezultatai.

Tai, ką matote, yra klasikinis DI haliucinacijos atvejis, tik vaizdų forma. Kai modeliui trūksta būtinos įvesties, jis vis tiek gali kurti turinį remdamasis statistiniais dėsningumais ir vidiniais žemėlapiais, kaip paprastai atrodo vaizdai. Sistema užpildo spragas, užuot pasakiusi: „Neturiu šio failo.“ Rezultatas gali būti kūrybiškas, arba klaidingas taip, kad atrodo nejaukiai nenatūralus.

Ar tai vaizdų generavimo grandinės klaida, ar tiesiog keista pernelyg laisvai interpretuoto raginimo pasekmė? Sunku pasakyti. Toks elgesys gali kilti iš to, kaip įrankis analizuoja instrukcijas, kuriose minima pridėta rinkmena, arba iš vidinės atsarginės logikos, bandančios padėti, kai trūksta duomenų. Bet kuriuo atveju šis epizodas išryškina platesnę problemą: modeliai pirmenybę teikia rezultatui, o ne episteminiam santūrumui.

Žmonės internete diskutavo ir dalijosi pavyzdžiais, ragindami įdiegti aiškesnes apsaugos priemones. Kūrėjai galėtų priverstinai tikrinti, ar netrūksta įvesties, arba nustatyti, kad sistema užduotų patikslinamuosius klausimus, kai būtina rinkmena nepateikta. Nedideli raginimų apdorojimo pakeitimai sustabdytų modelį nuo vaizdų fabrikavimo, neturinčio jokio pagrindo tikrovėje.

Kai DI išgalvoja tai, ko neturi, klaida nėra vien techninė, tai dizaino sprendimas, kurį galime ištaisyti.

Nesvarbu, ar tai pasirodys esanti pataisoma triktis, ar priminimas apie dabartinių generatyvinių sistemų ribas, ši diskusija yra naudinga. Kas nusprendžia, ką DI gali išgalvoti? Ir kas tai taiso, kai tokie išradimai tampa šiek tiek per daug panašūs į skaitmeninį košmarą?