„Google“ AI paieška liepia vartotojams valgyti akmenis ir tepti klijais ant picos

Technologijų įmonės daugiau dėmesio nei bet kada anksčiau skiria dirbtiniam intelektui, todėl dirbtinio intelekto modeliai nuolat tobulėja ir vis geriau atlieka įvairias užduotis. Pavyzdžiui, OpenAI neseniai pristatė savo naujausią pavyzdinį modelį GPT-4o, kuris netgi gali aptikti ir imituoti žmogaus emocijas. Naujasis multimodalinis modelis gali rinkti duomenis ir teikti informaciją naudodamas ne tik teksto, bet ir vaizdo ir garso galimybes.

Tačiau tai ne visur gera žinia, nes šie modeliai vis tiek gali klysti ir pateikti klaidingą informaciją bei pasiūlymus. Naujausias to pavyzdys yra „Google“ AI apžvalgos, kurią paieškos milžinas pristatė anksčiau šį mėnesį. Taip buvo siekiama pateikti AI sugeneruotas vartotojų ieškomos informacijos santraukas. Faktiškai naudojant, ši funkcija pasirodė esanti nepatikima, nes AI vartotojams siūlo iš tikrųjų neteisingus atsakymus ir keistus pasiūlymus, kurie nėra prasmingi.

AI apžvalgos siūlo keistus pasiūlymus – internetas suskaidytas

„Google“ AI apžvalgos sukurtos siekiant sumažinti pastangų, reikalingų ieškant informacijos, pateikdamos AI sukurtas informacijos, surinktos iš skirtingų puslapių, santraukas. Problema ta, kad AI šiuo metu negali nustatyti, kuris šaltinis teikia patikimą ir tikslią informaciją, o tai reiškia, kad jis gali kurti santraukas naudodamas klaidingus duomenis.

Be to, atrodo, kad tai nėra geriausias būdas nustatyti vartotojo ketinimus. Pavyzdžiui, buvo pasiūlyta, kad geologai rekomenduotų suvalgyti vieną nedidelę uolieną per dieną pagal vartotojo užklausą, matyt, pagrįsdami atsakymą iš humoro svetainės „The Onion“.

Toliau teigiama, kad uolienos yra gyvybiškai svarbus mineralų ir vitaminų, reikalingų geresnei virškinimo sistemai, šaltinis, ir netgi siūlyta paslėpti akmenis ir akmenukus maisto produktuose, pavyzdžiui, leduose. Panašiai į kitą klausimą, kaip padaryti, kad sūris geriau priliptų prie picos, „Google“ dirbtinis intelektas pasiūlė užtepti klijų, kad padidintų lipnumą.

Paklaustas apie musulmonų prezidentų skaičių JAV, jis teigė, kad Barackas Obama buvo vienintelis musulmonų prezidentas, o tai yra neteisinga, nes jis yra krikščionis. O į klausimą apie inkstų akmenligę AI atsakė, kad rekomenduojama kas 24 valandas išgerti du litrus šlapimo.

„Google“ AI taip pat pareiškė, kad šuo žaidė NBA ir net sugebėjo sukurti naują matavimo formą, vadinamą „kilotomato“, kai buvo paklaustas šiomis temomis. Yra nemažai kitų pavyzdžių, iliustruojančių, kaip AI apžvalgos gali ir teikė neteisingą informaciją.

Nors internete ištisa diena su linksmais atsakymais, šie atsakymai taip pat gali būti pavojingi. Akimirksniu „Google AI“ apžvalgos pateikė vartotojui klausimą apie depresiją, nušokusią nuo Auksinių vartų tilto, kaip vieną iš galimų pasiūlymų.

Kas yra „Google“ atsakas?

Siekdama išspręsti nepatogią situaciją, kurią sukūrė jos AI apžvalgos, „Google“ teigia, kad ji imasi skubių veiksmų, kad ištaisytų faktinės informacijos klaidas. Ji taip pat naudos šiuos atvejus, kad pagerintų savo dirbtinį intelektą, kad sumažėtų tokių incidentų tikimybė.

Nepaisant to, bendrovė teigia, kad AI iš esmės veikia taip, kaip turėtų, o šie neteisingi atsakymai atsirado dėl politikos pažeidimų ir labai neįprastų vartotojų užklausų. Jie neatspindi patirties, kurią dauguma žmonių turėjo su AI apžvalgomis. „Google“ taip pat nurodė, kad daugelis pavyzdžių, rodančių neteisingus ar keistus atsakymus, buvo ištaisyti, ir ji negalėjo atkurti panašių rezultatų, kai bando dirbtinį intelektą viduje.

Dirbtinio intelekto apribojimai

Nuo tada, kai prieš dvejus metus buvo paleistas OpenAI ChatGPT, dirbtinis intelektas ir su juo susijusios technologijos nuėjo ilgą kelią. Jie padėjo geriau nustatyti, ko ieško vartotojai, ir pateikti tinkamesnius atsakymus. Rezultatas yra tai, kad vis daugiau vartotojams skirtų produktų dabar integruojami į technologiją.

Nors tai gali padėti sutaupyti laiko ir pastangų ieškant informacijos ar kuriant turinį, svarbu suprasti, kad dirbtinis intelektas vis dar turi tam tikrų apribojimų. Visų pirma, dirbtinio intelekto modeliai vis dar linkę haliucinuoti, o tai reiškia, kad jie gali sugalvoti faktus ir duomenis, kurie nėra teisingi, bandydami atsakyti į vartotojo užklausą.

Be to, kaip minėta pirmiau, net tais atvejais, kai AI nesugalvoja savo faktų, ji gali gauti informaciją iš nepatikimos vietos. Vėlgi, tai gali turėti įtakos vartotojo informacijai, kai klaidinga informacija rodoma kaip teisingas atsakymas paieškos rezultatuose. Štai kodėl beveik kiekviena įmonė dabar savo AI įrankiuose rodo įspėjimą, kad AI pateikta informacija gali būti neteisinga.

Nors keistus atsakymus, pateiktus „Google“ AI apžvalgose, gali būti smagu skaityti, tai kelia rimtą klausimą dėl AI modelių patikimumo apskritai. Tai gali sukelti rimtų klaidų, jei asmuo pasikliauja klaidinga AI pateikta informacija ir negali nustatyti, ar ji teisinga, ar ne.

Be to, „Google“ neleidžia vartotojams dabar visiškai išjungti AI apžvalgų, todėl ši funkcija liko, o tai yra dar viena problemos dalis. Tačiau galite pereiti į „Google“ paskyros nustatymus ir ją išjungti laboratorijose, kaip paaiškinome toliau pateiktame vadove. Atsakymų paieška skirtinguose puslapiuose gali vykti lėčiau, bet mažiau tikėtina, kad susidursite su sugalvotais faktais ir keistais pasiūlymais.