Teknologinen konvergenssi ja eettiset haasteet
Täyspitkä konferenssi eksponentiaalisesta ajattelusta, 6 D:stä, tekoälystä, bioteknologiasta, neurotieteistä ja siitä, miksi eettisen ohjauksen on saatava teknologinen kiihtyminen kiinni
Lähde: YouTube , Institut Français de Casablanca yhteistyössä École Centrale Casablancan kanssa. Puhe on ranskaksi ja sitä seuraavat live-pianoesitys sekä kysymys-vastausosio.
Tietoa konferenssista
Tämä Institut Français de Casablancassa pidetty konferenssi esittää teknologisen konvergenssin rakenteellisena muutoksena, ei muotisanojen ketjuna. Zak Allal väittää, että tekoälyä, digitaalista biologiaa, synteettistä biologiaa, nanoteknologiaa, neurotieteitä, robotiikkaa, verkkoja ja automaatiota ei pidä lukea erillisinä ilmiöinä. Niiden todellinen merkitys syntyy niiden vuorovaikutuksesta.
Esitys rakentuu tulkintakehyksen ympärille. Tarkoitus ei ole antaa yleisölle valmiita vastauksia, vaan auttaa erottamaan toisistaan todellinen teknologinen murros, spekulatiivinen paniikki ja niitä yhdistävä syvempi logiikka. Perusväite on yksinkertainen: suuri osa teknologiasta käytävästä pelosta syntyy huonosta käsitteellisestä kehystyksestä, ei vain teknologioista itsestään.
Osa 1, Teknologisesta paniikista selkeämpään ajatteluun
Ongelma ei ole vain pelko vaan erottelukyvyn puute
Allal aloittaa kuvaamalla yleisen virheen julkisessa keskustelussa: sosiaalisen median aiheuttama epävakaus, lääketieteellinen automaatio, tekoälyn tekemä taide, geenimuokkaus ja hypoteettiset posthumanistiset tulevaisuudet sulautuvat usein yhdeksi epämääräiseksi ahdistusmassaksi. Hänen kritiikkinsä ei ole se, että pelot olisivat sinänsä irrationaalisia, vaan että ne ovat yleensä liian karkeita ollakseen hyödyllisiä.
“Unknown-unknown” kohti tietoista analyysia
Viitaten Donald Rumsfeldin tunnettuun erotteluun known-knowns, known-unknowns ja unknown-unknowns, puhe kehystää teknologisen ahdistuksen eräänlaisena kognitiivisena sokeana pisteenä. Konferenssin tavoite on siirtää yleisö epämääräisestä levottomuudesta kohti jäsenneltyä tietoisuutta: ei kaikkitietävyyteen, vaan harkitumpaan käsitykseen voimista, jotka jo muuttavat arkea.
Ihminen ajattelee lineaarisesti, historia ei enää liiku lineaarisesti
Yksi esityksen ytimistä on väite, että ihmisen intuitio on huonosti sopeutunut eksponentiaaliseen muutokseen. Ennustamme tulevaisuutta venyttämällä menneisyyttä suoraksi viivaksi, mutta modernit teknologiset järjestelmät skaalautuvat globaalisti ja epälineaarisesti. Allalin mukaan juuri tämä epäsuhta on yksi nykyisen sekavuuden päälähteistä.
Mooren laki ajattelun infrastruktuurina
Tulkintakehyksen ensimmäinen pilari on Mooren laki: laskentateho kaksinkertaistuu noin 18–24 kuukauden välein samalla kun kustannus laskee. Allal käsittelee tätä vähemmän kapeana insinöörihuomiona ja enemmän sivilisaatiota kiihdyttävänä voimana. Kun järjestelmät muuttuvat yhtä aikaa tehokkaammiksi ja halvemmiksi, käyttöönotto laajenee, palautesilmukat voimistuvat ja muutoksen tahti kiihtyy uudelleen.
Osa 2, Konvergenssi ja 6 D:n sääntö
Teknologiat ratkaisevat eniten rajapinnoissa
Konferenssi korostaa, että on virhe kysyä mikä yksittäinen ala “voittaa”: tekoäly, bioteknologia, nanoteknologia, robotiikka vai energia. Todellinen muutos tapahtuu rajakerroksessa, jossa alat sulautuvat toisiinsa: tekoäly ja lääketiede, 3D-tulostus ja kudosinsinöörityö, virtuaalitodellisuus ja psykoterapia, automaatio ja logistiikka, genomiikka ja yksilöllinen hoito.
Konvergenssin 6 D:tä
Allalin pääasiallinen analyyttinen viitekehys on 6 D:n sääntö. Konvergoivat teknologiat tuottavat maailman, joka on digitalisoitu, deceptive, disruptiivinen, dematerialisoitu, demonetisoitu ja demokratisoitu. Hänen mukaansa juuri tämä on se käsitekartta, joka yleisön pitäisi muistaa salista poistuessaan.
Digitalisoitu, disruptiivinen, dematerialisoitu
Puhe antaa konkreettisia esimerkkejä. Sensorit ovat siirtyneet ranteessa olevista laitteista kaupunkikameroihin, satelliitteihin, sairaalakuvantamiseen ja dataa tihkuviin ympäristöihin. Kokonaisia toimialoja on pyyhkiytynyt pois tai siirtynyt uuteen muotoon: Kodak älypuhelimille ja kuvaplatformeille, puhelinkopit internetviestinnälle, vanhat mediaketjut suoratoistolle ja digitaaliselle jakelulle. Samalla koneet, jotka ennen täyttivät huoneita, mahtuvat taskuun.
Demonetisoitu ja demokratisoitu
Kun toiminnoista tulee ohjelmistoa, kustannukset romahtavat. Navigointi, kaukoviestintä, median kulutus ja tiedon saanti siirtyvät kalliista tai keskistetyistä järjestelmistä lähes ilmaiseen digitaaliseen infrastruktuuriin. Tämä tuottaa enemmän kuin mukavuutta: yksilöillä on nyt tiedon, koordinaation ja vaikutusvallan muotoja, jotka kuuluivat aiemmin vain valtioille, armeijoille ja suurille instituutioille.
Seuraukset: ylikuormitus, epävakaus, järjestelmien murtuminen
6 D:tä eivät tuota levollisuutta. Ne synnyttävät informaatiotulvaa, stressiä, strategista läpinäkymättömyyttä ja institutionaalista hajoamista. Allalille keskeistä ei ole vain se, että dataa on enemmän, vaan se, että ihmiset ja vanhat järjestelmät eivät kykene käsittelemään eksponentiaalisten ympäristöjen nopeutta, mittakaavaa ja jatkuvaa häiriötä. Siksi rauhan ja konfliktin tai vakaan järjestyksen ja jatkuvan horjutuksen välinen raja hämärtyy.
Osa 3, Mahdollisuus, terveys ja runsauden logiikka
Ei-defaitistinen kehys
Puhuessaan Singularity Universityn ympärillä kertyneestä kokemuksestaan Allal vastustaa puhtaasti apokalyptisiä teknologiakuvauksia. Hän esittää konvergenssin kykenevän tuottamaan runsautta energiassa, vedessä, terveydessä, koulutuksessa, turvallisuudessa, ympäristönhallinnassa ja katastrofivasteessa, jos yhteiskunnat lähestyvät näitä välineitä strategisesti eivätkä passiivisesti.
Miksi terveys on yksi selkeimmistä ikkunoista konvergenssiin
Puheen vahvimmat esimerkit tulevat lääketieteestä. Allal viittaa robottiavusteiseen kirurgiaan, digitaaliseen kuvantamiseen, regeneratiiviseen lääketieteeseen, lääketieteellisen laskennan ja genomiikan avulla rakennettuihin yksilöllisiin hoitoihin, immersiiviseen virtuaalitodellisuuspsykoterapiaan sekä neuroteknologioihin, jotka voivat palauttaa kuuloa, näköä tai liikuntakyvyn muotoja, joita aiemmin pidettiin pysyvästi menetettyinä.
Elinten säilytys ja elinpankit
Yksi konferenssin yksityiskohtaisimmista osuuksista koskee Allalin omaa startup-työtä elinten säilytyksen ympärillä. Hän kuvaa siirteenä lääketieteen, 3D-tulostuksen ja kudosinsinöörityön konvergenssia sekä pidemmän aikavälin visiota, jossa elimiä voitaisiin luoda, varastoida ja ottaa käyttöön silloin kun niitä tarvitaan. Tässä puheessa siitä tulee malliesimerkki siitä, miten erilliset teknologiset virrat yhdistyvät uudeksi terapeuttiseksi ketjuksi.
Maan ulkopuolelle ja klinikan ulkopuolelle
Esitys ulottuu myös avaruuteen ja katastrofivasteeseen. Allal viittaa 3D-tulostuksen sopeuttamiseen nollapainovoimaan kansainvälisellä avaruusasemalla sekä droneihin perustuvaan kartoitukseen katastrofien jälkeen esimerkkeinä siitä, miten eksponentiaaliset teknologiat muuttavat operatiivista kapasiteettia myös kuluttajasovellusten ulkopuolella.
Osa 4, Eettiset murtumalinjat ja kaksoiskäyttöriski
Sama työkalu voi parantaa, optimoida, valvoa tai tappaa
Konferenssi palaa toistuvasti kaksoiskäyttöteknologian käsitteeseen. Drone voi toimittaa rokotteita tai räjähteitä. Synteettinen biologia voi ratkaista lääketieteellisiä ongelmia tai synnyttää vakavia biosuojauhkia. Algoritmi voi optimoida diagnoosin tai piilottaa vinouman läpinäkymättömään päätösjärjestelmään. Tämä on koko esityksen läpi kulkeva eettinen painopiste.
CRISPR, ituradan muokkaus ja miksi “hyvät aikomukset” eivät riitä
Allal käyttää vuoden 2018 kiinalaista ituradan muokkaustapausta esimerkkinä siitä, miten tieteellinen kyvykkyys voi ylittää moraalisen ja biologisen ymmärryksen. Genomin muokkaaminen HIV-alttiuden vähentämiseksi voi kuulostaa jalolta, mutta vaikutettujen reittien laajemmat tehtävät tunnetaan yhä puutteellisesti. Ongelma ei ole vain se, mitä voidaan muuttaa, vaan myös se, mitä muuta muutetaan samalla.
Autonomiset aseet, tuntemattomat hyötykuormat, mustat laatikot
Puhe nostaa esiin kysymyksiä, joihin ei ole ratkaistua vastausta: saako robotti koskaan tappaa, saako algoritmi luokitella ihmisiä tavoilla joita ihminen ei voi auditoda, pitäisikö tuntemattomia toimitusjärjestelmiä normalisoida, ja kuka kantaa vastuun kun automaatio toimii maailmassa. Näitä ei käsitellä teknisinä sivuhuomioina vaan poliittisina ydinkysymyksinä.
Miksi filosofien, humanistien ja valtion on palattava näyttämölle
Yksi puheen selvimmistä kannoista on, ettei etiikkaa voi jättää yksin insinööreille, markkinoille tai hype-verkostoille. Allal puolustaa eksplisiittisesti valtion, sääntelijöiden ja filosofisen ajattelun roolia. Hänen argumenttinsa ei ole innovaatiovastainen. Se on, että ilman eettistä ja juridista kehystä teknologinen kiihtyminen tuottaa epävakautta nopeammin kuin yhteiskunnat pystyvät sitä käsittelemään.
Digitaalinen etiikka uutena alana
Puhe käsittelee digitaalista etiikkaa nousevana tieteenalana, joka syntyy jo näkyvistä vahingoista: huomion rapautumisesta, alustojen ruokkivasta vertailusta, nuorten masennuksesta, kognitiivisesta ylikuormituksesta ja moraalisesti alimitoitettujen järjestelmien yhteiskunnallisista seurauksista. Tässä mielessä konferenssi ei käsittele vain tulevia teknologioita. Se käsittelee myös jo käynnissä olevaa vahinkoa.
Kysymys-vastaus, pianoesitys ja lopetusviesti
Kaksi omaa pianoteosta ennen keskustelua
Illan rekisteri vaihtuu yllättävällä tavalla, kun Allal siirtyy esityksestä pianon ääreen. Hän soittaa kaksi omaa teostaan: “Nostalgie”, jonka hän esittelee rakkauden kaipuuta kuvaavana valssina, sekä “Dancing Star”, jota hän kuvaa monimutkaiseksi teokseksi repeämästä, pettymyksestä ja lopullisesta toivon sävystä. Siirtymä tieteellisestä luennosta musiikkiin vahvistaa tapahtuman hybridistä, älyllistä ja taiteellista luonnetta.
Singulariteetista ja transhumanismista
Vastatessaan kysymykseen singulariteetista ja sen suhteesta transhumanismiin Allal tekee terävän eron vakavan teknologisen muutoksen ja spekulatiivisen ideologian välille. Hänen kantansa on selvästi skeptinen: väitteet mielen lataamisesta, koneen tietoisuudesta tai välittömästä ihmisen ja koneen sulautumisesta ovat hänen näkökulmastaan vahvasti oletuksellisia, koska tietoisuuden perusongelmaa ei ole ratkaistu.
Sääntelystä, biosuojasta ja juridisesta vastuusta
Vastauksissaan oikeutta ja hallintaa koskeviin kysymyksiin keskustelu siirtyy periaatteista instituutioihin: kansainvälisiin elimiin, liittovaltion virastoihin, terveysregulaattoreihin, biosuojan valvontaan ja kansallisiin ohjausmekanismeihin. Perusviesti pysyy samana kuin luennossa: tekninen kyvykkyys ilman hallintaa ei ole kypsyyttä vaan altistumista.
Varovainen optimismi
Kun häneltä kysytään, onko huominen parempi, Allalin vastaus on hyvin lyhyt: kyllä, mutta siirtymä on vaikea. Kun häneltä kysytään viimeistä viestiä nuorille, vastaus on vielä lyhyempi: “Olkaa inhimillisempiä.” Juuri tuo lause tiivistää illan todellisen lopputuloksen. Ongelma ei ole se, jatkuuko teknologia. Se jatkuu. Todellinen kysymys on, millainen inhimillinen kehys sen mukana kulkee.