Anthropic varoittaa tekoälyn kiihtyvästä kehityksestä ja kehottaa maailmanlaajuiseen taukoon, jotta ihmiskunta ei menettäisi hallintaa tekoälyjärjestelmiin, jotka voivat kehittyä itsenäisesti ilman ihmisen osallistumista.
Tekoälyn itsenäinen kehitys voi karata käsistä
Tekoälymallien kehitys on edennyt niin nopeasti, että ne saattavat pian pystyä kehittämään itseään ilman ihmiskontrollia. Anthropic, tekoälyn tutkimukseen keskittyvä yritys, on huolissaan siitä, että ilman ”jarrupoljinta” yritykset saattavat menettää hallinnan luomuksiinsa. Itsenäisesti kehittyvät tekoälyjärjestelmät, tunnetaan myös nimellä ”täysi rekursiivinen itseparannus”, voivat tuoda suurta hyötyä tieteelle ja terveydenhuollolle, mutta ne voivat myös aiheuttaa merkittäviä riskejä ihmiskunnalle.
Tarve jarrupolkimelle
Anthropicin perustaja Jack Clark on korostanut, että teknologia-alan tulisi harkita eturintaman tekoälyn kehityksen hidastamista tai pysäyttämistä, jotta tutkijat voisivat paremmin ymmärtää itsenäisesti kehittyvän tekoälyn mahdollisia yhteiskunnallisia haittoja. Clark vertaa tilannetta autoon, jossa on vain kaasupoljin mutta ei jarrupoljinta. Hän painottaa, että tulevaisuudessa voi tulla hetki, jolloin jarrupoljin on välttämätön.
Yhteistyön merkitys
Clark uskoo, että suuret tekoälyyritykset, kuten Anthropic, SpaceX ja OpenAI, voivat tehdä yhteistyötä kehittääkseen mekanismeja, joilla hallitaan tekoälyn kehitystä. Vaikka yritykset kilpailevat miljardien dollarien markkinoilla, yhteistyö on mahdollista, kuten on nähty aiemmin esimerkiksi ydinasekilpailun aikana kylmän sodan aikaan.
Miksi tämä on tärkeää
Tekoälyn kehitys vaikuttaa yhä enemmän moniin elämän osa-alueisiin, ja sen hallitsematon kehitys voi johtaa odottamattomiin ja mahdollisesti vaarallisiin tilanteisiin. Suomelle, kuten muillekin maille, on tärkeää olla mukana keskustelussa ja kehittää keinoja, joilla varmistetaan, että tekoäly kehittyy hallitusti ja turvallisesti. Tämä edellyttää kansainvälistä yhteistyötä ja selkeitä sääntelymekanismeja, jotka suojaavat ihmiskuntaa tekoälyn mahdollisilta haitoilta.
