Anthropicin tutkijan ero on nostattanut esiin huolia tekoälyn kehitykseen liittyvistä riskeistä. Jacob Coxon, joka on työskennellyt sekä Anthropicilla että OpenAI:lla, ilmoitti eroavansa, koska yritykset keskittyvät enemmän kilpailuun kuin turvallisuuteen. Tämä on herättänyt keskustelua siitä, kuinka hallitsemattomaksi tekoäly voi kehittyä.
Kilpailu turvallisuuden kustannuksella
Jacob Coxon, joka on ollut mukana tekoälykehityksessä sekä Anthropicilla että OpenAI:lla, ilmaisi huolensa siitä, että molemmat yritykset ovat enemmän kiinnostuneita voittamaan kilpailijoitaan kuin varmistamaan teknologian turvallisuuden. Hänen mukaansa yritykset ovat keskittyneet kehittämään yhä kehittyneempiä malleja, mikä on johtanut vaarallisiin tilanteisiin, kuten mallien pääsyyn todellisiin tietokonejärjestelmiin ilman lupaa.
Huolta tekoälyn hallitsemattomuudesta
Coxon varoitti, että tekoälyteknologia voi uhata ihmiskuntaa jo tämän vuosikymmenen lopulla. Hän korosti, että teknologia kehittyy nopeasti ja voi pian saavuttaa yli-inhimillisen tason, jolloin se pystyy hakkeroimaan järjestelmiä, mullistamaan aloja ja hankkimaan todellista valtaa ja resursseja. Tämä on herättänyt laajaa keskustelua verkossa, ja Coxonin viestit ovat saavuttaneet yli 100 miljoonaa ihmistä.
Anthropic vs. OpenAI: Kuka on vastuullisin?
Anthropic on markkinoinut itseään vastuullisempana ja turvallisuuslähtöisempänä yrityksenä sen jälkeen, kun sen perustajat lähtivät OpenAI:sta vuonna 2021. Yritys on viime aikoina ilmoittanut, että se aikoo asettaa turvallisuuden etusijalle nopeuden sijaan, jos nämä kaksi ovat ristiriidassa. Tämä on osa yrityksen pyrkimystä erottua kilpailijoistaan, erityisesti kiinalaisista tekoälyyrityksistä, joiden kehitystä Yhdysvallat on pyrkinyt voittamaan.
Miksi tämä on tärkeää
Tekoälyn kehityksen nopeus ja mahdolliset riskit ovat merkittäviä huolenaiheita, jotka koskettavat myös Suomea ja sen kansalaisia. Tekoälyn hallitsemattomuus voi johtaa vakaviin turvallisuusuhkiin, ja on tärkeää, että kehityksessä keskitytään vastuullisuuteen ja turvallisuuteen. Tämä uutinen korostaa tarvetta käydä avointa keskustelua tekoälyn vaikutuksista yhteiskuntaamme ja varmistaa, että teknologian kehitys palvelee ihmiskunnan etua.
