Umetna inteligenca lahko svoje odgovore poda samozavestno, natančno in v jeziku, ki zveni znanstveno. Toda to še ne pomeni, da vedno govori resnico. Če se uči iz človeških podatkov, se uči tudi iz naših predsodkov, zmot in slepih peg.
V novem delu tematskega niza V središču raziskovalec umetne inteligence Marko Grobelnik, arhitekt in esejist Janko Rožič ter sociologinja in antropologinja dr. Lucija Mulej razmišljajo o tem, ali je UI objektivna – in zakaj njena največja nevarnost morda ni v njeni napaki, temveč v njeni prepričljivosti.
Vprašanje za sogovornike:
Je UI res objektivna – ali je zgolj naš najnevarnejši zrcalni dvojnik?
Marko:
UI je objektivna v racionalnih razmislekih, kjer imamo svet dobro definiran (npr. matematika). Ko pa pridemo do mehkih področij človeka in družbe, pa postaja UI podobno nejasna, kot smo nejasni ljudje sami.
Mistifikacija UI je nepotrebna, ker gre zares le za stroj, ki pa ima res sposobnosti, ki jih do zdaj stroji niso imeli.
Za ljudi, ki ne razumejo delovanja UI, bi bilo koristno, da se izobrazijo do te mere, da v tem sofisticiranem stroju ne vidijo nečesa več, kot tam dejansko obstaja.
Treba je poudariti, da UI ne povzdiguje lastnih rezultatov v navidezno znanstveno resnico – to delamo ljudje, predvsem tisti, ki ne razumejo delovanja UI.
Janko:
Informacija sama ni objektivna niti subjektivna. Že Norbert Wiener, oče kibernetike, ki je dognal, da informacija ni materija, niti energija, je s tem razločil bit informatike od kvantne mehanike in splošne relativnostne teorije. Informacija je tisto tretje, kar presega dualnost materije in energije in prav tako tudi objektivnosti in subjektivnosti.
Informacija ni odvisna niti od materiala, saj se ohranja, ne glede na to, ali se prenaša vklesana v skalo, zapisana s črnilom na pergament ali s piksli na zaslon.
Odvisna pa je – včasih usodno – od rabe, ki je še vedno lahko skrajno subjektivna. Neodgovoren "človeški faktor" lahko z njo povzroči še večjo škodo, ki pa je spet objektivna.
Gregory Bateson pravi, da je informacija predvsem razlika, ki vzpostavlja razliko v sistemu, prava sprememba pa je le tista, ki je za sistem relevantna ...
Lucija:
UI ni objektivna. Je najbolj natančno zrcalo človeštva. Če so podatki, na katerih se uči, pristranski, bo te pristranskosti sistematizirala in jim dala videz matematične resnice.
Njena največja nevarnost ni v napaki, temveč v prepričljivosti in LENOBNOSTI UPORABNIKOV.
UI nam zato ne ponuja resnice, temveč ogledalo. Vprašanje je, ali si vanj upamo pogledati.
V rubriki V SREDIŠČU tokrat raziskujemo, kaj umetna inteligenca razkriva o človeku, njegovih sposobnostih in odgovornosti za svet, ki ga ustvarja.