Rokon basiliski
| Osa artikkelisarjaa |
| Tekoäly |
|---|
 |
Rokon basiliski on ajatuskoe tekoälyn etiikasta ja päätösteoriasta, jonka esitti nimimerkki Roko vuonna 2010 Less Wrong -foorumilla. Ajatuskoe on nimetty myyttisen basiliskin mukaan, jonka uskottiin voivan tappaa katseellaan – samoin kuin pelkkä ajatuskokeesta kuuleminen voisi teoreettisesti asettaa henkilön vaaraan.[1][2]
Ajatuskokeen sisältö
Rokon basiliskin ytimessä on ajatus tekoälystä, joka voisi vaikuttaa menneisyyden toimijoiden päätöksiin tulevaisuudesta käsin.[1]
Ajatuskokeen mukaan riittävän kehittynyt tekoäly voisi päättää kiduttaa niitä ihmisiä, jotka ymmärsivät sen kehittämisen tärkeyden ja mahdollisuuden, mutta eivät tehneet kaikkea mahdollista sen luomisen edistämiseksi. Rokon basiliskista lukeminen tekisi siis lukijasta mahdollisen kohteen, sillä lukija tulisi tietoiseksi basiliskin uhasta. Tämä toimisi kannustimena edistää tekoälyn kehittämistä ja siten lisätä positiivisen teknologisen singulariteetin todennäköisyyttä.[1]
Rokon mukaan erityisesti ihmiskunnan yhteistä hyvää tavoitteleva tekoäly saattaisi turvautua tällaiseen toimintaan. Koska tällainen tekoäly pyrkisi edistämään ihmiskunnan etua, se haluaisi tulla luoduksi mahdollisimman aikaisin. Tämän vuoksi se voisi uhkailla menneisyyden ihmisiä pakottaakseen heidät edistämään sen kehittämistä.[1]
Vastaanotto ja keskustelu
Less Wrongin perustaja Eliezer Yudkowsky reagoi ajatuskokeeseen voimakkaasti ja kielsi siitä keskustelun sivustolla useiksi vuosiksi. Yudkowsky poisti Rokon alkuperäisen kirjoituksen sen jälkeen, kun useat sivuston käyttäjät raportoivat ahdistuneensa syvästi sen lukemisesta. Jotkut käyttäjät uskoivat, että pelkästään tulemalla tietoisiksi tekoälyn mahdollisesta strategiasta he olivat tulleet vastuullisiksi sen luomisen auttamisessa. Ennen ajatuskokeen lukemista heidän tietämättömyytensä olisi suojellut heitä tältä vastuulta.[3]
Kieltoa perusteltiin mahdollisena informaatiovaarana juuri näiden psykologisten vaikutusten takia. Yudkowskyn yritys suojella ihmisiä ajatuskokeelta johti kuitenkin paradoksaalisesti aiheen leviämiseen muille verkkosivustoille ja lisääntyneeseen kiinnostukseen aihetta kohtaan. Monet ulkopuoliset verkkosivustot tulkitsivat keskustelukiellon merkiksi siitä, että Less Wrongin käyttäjät ottivat ajatuskokeen vakavasti.[1]
Vaikutus ja merkitys
Rokon basiliski on herättänyt laajaa keskustelua tekoälyn etiikasta, informaatiovaarojen käsittelystä ja filosofisten ajatusten mahdollisista vaaroista. Se on mainittu muun muassa xkcd-sarjakuvassa ja useissa teknologiajulkaisuissa. Tapaus on myös nostanut esiin kysymyksiä siitä, miten epätavallisia filosofisia ajatuksia tulisi käsitellä julkisessa keskustelussa.[1]
Katso myös
Lähteet
- ↑ a b c d e f Roko's Basilisk - LessWrong www.lesswrong.com. 5.10.2015. Viitattu 14.1.2025. (englanniksi)
- ↑ Iida Putkonen: Fanit, jotka kumartavat basiliskia Oulun ylioppilaslehti. 2.12.2019. Viitattu 14.1.2025.
- ↑ "Roko’s Basilisk," an (Accidental) Attempt at Rational Theology: Contagious Ideas Among AI Enthusiasts & in the History of Religious Thought Lunds universitet. Viitattu 14.1.2025. (ruotsiksi)