OpenAI paljasti todelliset kasvonsa

Alkuperäisen englanninkielisen The Atlanticin jutun voit lukea täältä. Artikkeli on alun perin ilmestynyt toukokuussa 2024.

Jos haluaa saada käsityksen siitä, millaiseen filosofiaan Piilaakson viimeisin kultakuume perustuu, kannattaa tutustua OpenAI:n Scarlett Johansson -fiaskoon. Johanssonin asianajajien mukaan tarina eteni näin: Yhdeksän kuukautta sitten OpenAI:n toimitusjohtaja Sam Altman lähestyi näyttelijää saadakseen luvan käyttää tämän ääntä uuden digitaalisen assistentin äänenä. Johansson kieltäytyi.

Näyttelijä väittää, että vain kaksi päivää ennen yhtiön suurtapahtumaa, jossa kyseinen assistentti julkistettiin osana uutta GPT-4o-tekoälymallia, Altman otti yhteyttä Johanssonin tiimiin ja pyysi näyttelijää harkitsemaan asiaa uudelleen. Johansson ja Altman eivät ilmeisesti jutelleet asiasta keskenään, eikä Johansson omien sanojensa mukaan koskaan myöntänyt OpenAI:lle lupaa käyttää ääntään. Joka tapauksessa yritys esitteli Sky-nimisen assistentin kaksi päivää myöhemmin. Monien mielestä sen ääni muistutti huolestuttavan paljon Johanssonin ääntä.

Johansson kertoi yleisradioyhtiö NPR:lle olevansa ”järkyttynyt, vihainen ja epäuskoinen siitä, että Altman päätti käyttää ääntä, joka kuulostaa oudon samanlaiselta kuin minun”. Altman vastasi julkaisemalla lausunnon, jossa hän kiisti, että yhtiö olisi kloonannut Johanssonin äänen, ja lisäsi, että he olivat palkanneet toisen ääninäyttelijän tehtävään jo ennen Johanssonille esitettyä pyyntöä. (Suosittelen kuuntelemaan ääntä itse.) Erikoista oli se, että Altman lupasi OpenAI:n poistavan Skyn äänen palvelustaan ”kunnioituksesta” Johanssonia kohtaan.

OpenAI on ajautunut sotkuiseen kiistaan, ja Altmanin omat someviestit mutkistavat asioita entisestään. Samana päivänä, kun OpenAI julkisti ChatGPT-assistentin, Altman julkaisi ilkikurisen, yhden sanan lausunnon X:ssä: ”Her.” Kyseessä on viittaus vuonna 2013 julkaistuun samannimiseen elokuvaan, jossa Johansson antaa äänen tekoälyassistentille, johon elokuvan mies rakastuu. Altmanin julkaisu on melko raskauttava todiste siitä, että tämä oli tietoinen, ja jopa ylpeä, yhtäläisyyksistä Skyn ja Johanssonin äänen välillä.

Tapaus näyttää olevan jälleen yksi esimerkki teknologiayhtiöstä, joka viis veisaa eettisistä periaatteista toiminnassaan ja pääsee kuin koira veräjästä. Mutta tilanteessa voi nähdä, kätevässä pienoiskoossa, myös sen epäreilun pelin, jota generatiivisen tekoälyn nimissä pelataan. Kyseinen teknologia perustuu internetistä koottuun dataan, jota hyödynnetään usein ilman tekijöiden tai tekijänoikeuksien haltijoiden lupaa.

Useat taiteilijat ja julkaisijat, mukaan lukien The New York Times, ovat haastaneet tekoäly-yritykset oikeuteen tästä syystä, mutta teknologiayritykset eivät ole perääntyneet. Jos niiltä kysytään suoraan tekoälyn koulutukseen käytetyn datan alkuperästä, vastaukset ovat vältteleviä. Tämä väistely perustuu käsitykseen, jonka mukaan heidän kehittämänsä hypoteettinen superäly on liian suuri, liian maailmaa mullistava, liian tärkeä sen kaltaisille mitättömille pikkuseikoille kuin tekijänoikeus ja tekijän nimeäminen. Johansson-skandaali on vain muistutus tekoälyn taustalla olevasta kutsumuskohtalosta: näin tapahtuu, pidit siitä tai et.

Altman ja OpenAI ovat tuoneet asiaa avoimesti esiin. OpenAI:n lopullisena tavoitteena on aina ollut niin kutsuttu yleinen tekoäly (artificial general intelligence, eli AGI), joka heidän kuvitelmissaan muuttaa ihmiskunnan historian suunnan pysyvästi ja käynnistää ennennäkemättömän tuottavuuden ja vaurauden vallankumouksen.

Syntyisi utopistinen maailma, jossa työpaikat katoaisivat ja tilalle tulisi jonkinlainen yleinen perustulo. Samaan aikaan tieteessä ja lääketieteessä otettaisiin suuria harppauksia eteenpäin. (Tai sitten koneet tuhoaisivat nykymuotoisen elämän maapallolla.) Panokset tässä hypoteesissa ovat käsittämättömän korkeat, ja sitä suuremmalla syyllä OpenAI pyrkii kiihdyttämään kehitystä kaikin keinoin. Viime kesänä kollegani Ross Andersen kuvaili Altmanin tavoitteita näin:

"Äänestävillä kansalaisilla oli päätäntävaltaa sekä Apollo-avaruusohjelman lentojen tavoitteiden että niiden toteutuksen suhteen, ja sama pätee muihinkin 1900-luvun merkittäviin hankkeisiin. Altman teki selväksi, että emme enää elä sellaisessa maailmassa. Sen sijaan, että hän odottaisi sellaisen maailman palaamista tai ponnistelisi sen palauttamiseksi, hän etenee täyttä vauhtia eteenpäin nykytodellisuudessamme."

Altman perusteli toimiaan Andersenille muun muassa sillä, että tekoälyn kehitys on osa geopoliittista kilpailua Kiinan kaltaisia autokraattisia valtioita vastaan. ”Liberaalidemokraattisten maiden kansalaisten tulisi kannustaa ennemmin OpenAI:tä kohti menestystä” kuin ”autoritaarisia hallintoja”, hän sanoi. Hän huomautti, että ihannemaailmassa tekoäly olisi kansakuntien yhteinen tuote.

Todellisessa maailmassa Altman näyttää kuitenkin pitävän omaa yritystään eräänlaisena kansallisvaltiona. Hän on luonnollisesti ollut Yhdysvaltain kongressin kuultavana ja kehottanut lainsäätäjiä sääntelemään teknologiaa, mutta korostanut samalla, että ”toistaiseksi käyttöön otettujen työkalujen hyödyt ovat huomattavasti suuremmat kuin niiden riskit”. Viesti oli joka tapauksessa selvä: tulevaisuus lähestyy, ja teidän pitäisi antaa meidän luoda sitä.

Muut OpenAI:n työntekijät ovat esittäneet vähemmän suopeita näkemyksiä aiheesta. Eräs Alankomaissa toimiva efektiivisten altruistien ryhmä julkaisi viime syksynä YouTube-videon, jolla kolme OpenAI:n työntekijää vastasi teknologian tulevaisuutta koskeviin kysymyksiin. Yksi kysymyksistä koski sitä, viekö yleinen tekoäly ihmisiltä työpaikat.

Yrityksessä työskentelevä insinööri Jeff Wu vastasi: ”On tavallaan hyvin epäreilua, että ryhmä ihmisiä voi vain kehittää tekoälyä ja viedä kaikilta työpaikat eikä heitä voi tällä hetkellä estää millään tavalla.” Hän lisäsi: ”En tiedä. Lisätkää tietoisuutta, kiinnittäkää hallitusten huomio asiaan, kiinnittäkää muiden ihmisten huomio asiaan. Niin. Tai liittykää meihin ja hankkikaa yksi niistä harvoista ammateista, joita on enää jäljellä. En tiedä; se on rankkaa.” Wun kollega Daniel Kokotajlo kiiruhti puolustamaan teknologiaa. ”Lisäisin vielä sen”, hän sanoi, ”että yleinen tekoäly tuo mukanaan valtavasti vaurautta. Ja jos tuo vauraus jaetaan… Vaikka sitä ei jaettaisi tasapuolisesti, niin mitä tasapuolisemmin se jaetaan… Se tekee kaikista uskomattoman vauraita.” (Mikään ei viittaa siihen, että tämä vauraus jaettaisiin tasaisesti.)

Tämä on OpenAI:n karu logiikka. Se on kylmä, rationalistinen ja holhoava. Yrityksessä tiedetään, että on lähtökohtaisesti epäoikeudenmukaista, että niin pienelle ihmisryhmälle on annettu valta kehittää koko sivilisaation mullistavaa teknologiaa. Siitä huolimatta he jatkavat työtään, koska heillä on sekä visio tulevaisuudesta että keinot sen saavuttamiseksi.

Wun ehdotus, jonka hän esittää videolla olkiaan lannistuneesti kohauttaen, on paljonpuhuva: "Voit yrittää taistella tätä vastaan, mutta et voi pysäyttää tätä. Olisi parasta vain hypätä kehitykseen mukaan."

Samanlainen periaate on nähtävissä OpenAI:n sisällön lisensointia koskevissa sopimuksissa, joita yhtiö on solminut Redditin kaltaisten alustojen ja uutisorganisaatioiden, kuten Axel Springerin ja Dotdash Meredithin, kanssa. Eräs teknologia-alalla työskentelevä johtaja, jonka kanssa puhuin hiljattain, vertasi tällaisia sopimuksia panttivankitilanteeseen ja arveli, että tekoäly-yritykset keksivät joka tapauksessa keinon hyödyntää julkaisijoiden sivustoja, vaikka nämä eivät lähtisikään mukaan sopimukseen. Paras yrittää saada niistä edes pieni korvaus, kun se on vielä mahdollista, hän totesi.

Johanssonin syytökset vain lisäävät näitä epäilyksiä (ja myös vahvistavat ne, mikäli syytökset pitävät paikkaansa). Altman perusteli Johanssonille esitettyä pyyntöä sillä, että tuttu ääni tuntuisi ”lohdulliselta ihmisistä”, jotka karsastavat tekoälyassistentteja. Johanssonin äänessä ei olisi niinkään ollut kyse tietynlaisesta äänibotin estetiikasta vaan ennemminkin keinosta saada ihmiset ottamaan käyttöön ja omaksumaan teknologia, jota monet heistä eivät kaipaa ja joka herättää monissa epäilyksiä.

Tämä on jälleen yksi käytännön esimerkki OpenAI:n logiikasta. Sen seurauksena yritys jyrää vauhdilla eteenpäin, luvista viis, yksinkertaisesti sen vuoksi, että se kenties uskoo panosten olevan niin korkeat, ettei suunnanvaihto tai odottelu tule kysymykseen. Jos teknologian tavoitteena on kirjoittaa yhteiskunnan säännöt uusiksi, yhteiskunnan nykyiset säännöt eivät siihen päde.

Ylimielisyys ja oikeutuksen tunne liittyvät erottamattomasti minkä tahansa mullistavan teknologian kehitykseen. Pienen ihmisryhmän täytyy luottaa visioonsa riittävän paljon tehdäkseen siitä totta ja pyytääkseen meitä muita sopeutumaan siihen. Mutta generatiivinen tekoäly venyttää tämän ajatuksen järjettömyyteen saakka. Kyseessä on teknologia, joka perustuu kutsumuskohtaloon, hallintaan ja valloitukseen. Ei se ole varastamista tulevaisuuden rakentamiseksi, jos ihminen uskoo, että se on aina kuulunutkin hänelle.

©2024 The Atlantic Monthly Group. Kaikki oikeudet pidätetään. Jakelu: Tribune Content Agency, LLC.

Käännös: Apropos lingua