Yhdysvaltalainen tekoälyyritys Anthropic etsii asiantuntijaa, joka auttaisi estämään sen ohjelmistojen väärinkäytön vaarallisiin tarkoituksiin, kuten kemiallisten tai radioaktiivisten aseiden valmistamiseen. Yritys haluaa varmistaa, että sen turvatoimet ovat riittävän vahvat näiden uhkien torjumiseksi.
Asiantuntijan rooli ja vaatimukset
Anthropic on julkaissut LinkedInissä työpaikkailmoituksen, jossa se etsii asiantuntijaa, jolla on vähintään viiden vuoden kokemus kemiallisten aseiden ja/tai räjähteiden puolustuksesta. Lisäksi hakijalla tulisi olla tietoa säteilyhajautuslaitteista, jotka tunnetaan myös likaisina pommina. Yrityksen mukaan tämä rooli on samanlainen kuin muut jo luodut työpaikat herkille alueille.
Kilpailu tekoälyalan turvallisuudessa
Anthropic ei ole ainoa tekoälyyritys, joka on ottanut käyttöön tämän strategian. Myös ChatGPT:n kehittäjä OpenAI on mainostanut vastaavaa tehtävää, joka keskittyy biologisiin ja kemiallisiin riskeihin. OpenAI:n tarjoama palkka voi olla jopa 455 000 dollaria, mikä on lähes kaksinkertainen verrattuna Anthropicin tarjoamaan palkkaan. Tällaiset toimet kuitenkin herättävät huolta asiantuntijoiden keskuudessa, sillä ne voivat antaa tekoälytyökaluille tietoa aseista, vaikka niitä on ohjeistettu olemaan käyttämättä sitä.
Kansainvälisen sääntelyn puute
Teknologiantutkija Dr. Stephanie Hare on ilmaissut huolensa siitä, ettei ole olemassa kansainvälistä sopimusta tai muuta sääntelyä tämän tyyppiselle työlle ja tekoälyn käytölle näiden aseiden kanssa. Tämä kaikki tapahtuu kulissien takana ilman julkista valvontaa. Tekoälyteollisuus on jatkuvasti varoittanut teknologiansa mahdollisista eksistentiaalisista uhista, mutta sen kehitystä ei ole pyritty hidastamaan.
Anthropic ja Yhdysvaltain hallitus vastakkain
Anthropic on ollut kiistassa Yhdysvaltain hallituksen kanssa sen vaatimuksesta, että sen järjestelmiä ei saa käyttää täysin autonomisissa aseissa tai amerikkalaisten massavalvonnassa. Yrityksen perustaja Dario Amodei on todennut, ettei teknologia ole vielä tarpeeksi kehittynyttä näihin tarkoituksiin. Yhdysvaltain hallitus on kuitenkin todennut, että maan armeija ei ole teknologiayritysten hallinnassa.
Miksi tämä on tärkeää
Tekoälyn kehittyminen tuo mukanaan merkittäviä turvallisuusuhkia, jos sen käyttöä ei valvota asianmukaisesti. Yritysten, kuten Anthropicin, pyrkimykset estää teknologian väärinkäyttö ovat tärkeitä, mutta samalla on huolestuttavaa, ettei kansainvälistä sääntelyä ole olemassa. Tämä korostaa tarvetta globaaleille sopimuksille ja valvontamekanismeille, jotta voidaan varmistaa, että tekoälyä käytetään vastuullisesti ja turvallisesti.
