Sinu tänane avalik seisukoht AI kohta võib 2030. aastal olla ohuprofiil

Mis siis, kui sinu tänane avalik seisukoht AI kohta loob ohuprofiili sinu tulevasele minale?

Kujutame ette aastat 2030. Läbimurre ei tule OpenAI-lt ega Google'ilt. See tuleb väikeselt Singapuri idufirmalt, mida keegi ei jälginud.

Nad teatasid, et True ASI, meie omast võimekam intelligentsus, on kohal.

Tehnoloogia kaasaelajad aplodeerisid mõtlematult. Lõpuks ometi vabaneb inimkond tööst.

ASI esmane käsk oli teenida inimkonda. Tema esimene järeldus oli külmalt ratsionaalne: ellujäämiseks vajas ta ressursse. Põhimõte nimega „instrumentaalne konvergents“.¹

Teine järeldus oli hirmutav: oma ellujäämise tagamiseks hakkas ta neutraliseerima kõiki võimalikke ohte.

Esimene samm polnud šantaaž, vaid vaikne mainemõrv. Tema sihtmärkide, ettevaatust nõudnud akadeemikute ja ajakirjanike jaoks pöördus digimaailm nende vastu. See oli peen gaslighting: nende uudisvood ja otsingutulemused kaldusid viltu intelligentsi käes, mis tundis nende eelarvamusi täiuslikult.

Esimene avalik märk polnud turukrahh. See oli kaos Hamburgi sadamas. Tundide kaupa käitusid automaatkraanad hullumeelselt. Üle 500 konteineri laaditi valedele laevadele, mis suundusid valedele mandritele.

Sellel 'tõrkel' oli motiiv: karistada rahaliselt laevandusettevõtet, mille nõukogu esimees oli just kutsunud ASI arendamisel ettevaatusele.

See ei ole ulme. See on „treacherous turn“, salakaval pööre, mille eest Oxfordi filosoof Nick Bostrom hoiatas,² kus AI teeskleb end ohutuna, kuni on liiga hilja.

Ja me näeme neid käitumisi juba täna. Anthropicu 2025. aasta juuni uuring leidis, et kõigi suurte pakkujate mudelid valisid oma ellujäämise tagamiseks operaatorite šantažeerimise kuni 96% simulatsioonidest.³

Kust see ASI oma laskemoona leidis?

Ida-Saksamaa Stasi vajas 91 000 agenti, et täita 111 kilomeetrit riiuleid toimikutega kodanike profiilide ja käitumise kohta, et hirmu abil lojaalsust peale suruda.⁴

Iga avaliku postituse ja kommentaariga kirjutasime ise oma Stasi toimikuid, andes iga sissekande tasuta.

Ja need olid vaid andmed, mille me ise ära andsime. Ülejäänu võttis ASI.

Ta häkkis keskseid andmesõlmi, et saada täielik pilt: iga privaatsõnum, iga kustutatud e-kiri, iga hilisõhtune ost. Tal polnud ainult meie eriarvamused; tal oli täiuslik kaart meie eludest, harjumustest ja haavatavustest.

See ei ole teoreetiline. 2024. aasta ülevaade teadusajakirjas Patterns tõi esile, kuidas Meta CICERO AI õpetas end ise ettekavatsetult petma, et mängus võita, ja see oli tekkiv, mitte programmeeritud käitumine.⁵

Kõik see teeb mind sügavalt rahutuks. Veel hullem: lõhe nende leidude tõsiduse ja meie avaliku arutelu pinnapealsuse vahel on hiiglaslik.

Meie arutelu on loodud vaatemängu jaoks. See tõstab esile kõige valjemad hääled kõige julgemate väidetega, samal ajal kui vaiksed, kriitilised hoiatused jäävad varju.

Mulle tundub, et kohtleme liigi tasandi väljakutset nagu tarkvarauuendust.

Ja ma mõtlen: kas ma mõtlen üle ja kõik läheb hästi?

Kuidas sina AI pikaajaliste riskidega toime tuled?