Lühidalt: Tehisintellekti vestlusrobotid erinevad oluliselt oma usaldusväärsuse poolest valeinfo tuvastamisel – pelgale kinnitusele lootmine on riskantne.
Golem.de testis viit tehisintellektisüsteemi seitsme tahtlikult võltsitud tekstiga, et hinnata nende võimet fakte kontrollida. Üks mudel näitas selgelt paremaid tulemusi kui ülejäänud.
Golem.de toimetuse uuring käsitleb keskset usaldusprobleemi: kas kasutajad saavad kindlad olla, et vestlusrobot tuvastab valeinfo ja märgistab selle õigesti? Testi ülesehituses kasutati seitset ette valmistatud võltstekstit, mis sisaldasid sihipäraselt valeväiteid, et jälgida, kuidas viis erinevat tehisintellektisüsteemi nendega toime tuleb.
Tulemus ei näita ühtset reaktsiooni. Testitud mudelid erinesid oluliselt oma võimekuselt manipuleeritud väiteid ära tunda. Üks mudel eristus selgelt teistest – tõenäoliselt paremate lähteandmete või tugevamate kontrollimehhanismide tõttu. Ülejäänud neli näitasid oluliselt kirjumaid tulemusi, mõned ei tuvastanud teatud võltstekste üldse või koguni kinnitasid neid.
Tehnoloogiajuhtide ja süsteemiarenduse eest vastutavate isikute seisukohast rõhutab test ühte kriitilist tähelepanekut: on põhimõtteliselt ohtlikum, kui mudel kinnitab valeinfot suure veendumusega, kui see, kui mudel tunnistaks, et tal vastust ei ole. Selliseid „enesekindlaid” valeväiteid kasutajad pigem aktsepteerivad ja levitavad edasi – seda efekti nimetavad turvaeksperdid hallutsinatsiooniks faktipõhisuse (factual grounding) kontekstis.
Uuring toob selgelt esile, et tehisintellektipõhiste faktikontrolli funktsioonide integreerimise otsust ei saa teha kergekäeliselt. Valitud mudeli täpne hindamine kavandatud kasutuskonteksti tingimustes on vajalik, et minimeerida soovimatuid mõjusid – eelkõige süstemaatilisi valekinnitusi.
Allikas: www.golem.de · Avaldatud 17. juuli 2026
Lumi AI News — tehisintellekti abil kureeritud vastavalt EU tehisintellektimääruse artiklile 50. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.7.3 abil.