Tekoäly ilman tarkoituksellisuutta on vahvistettua tyhmyyttä

Tuore MIT:n tutkimus osoitti, että kun ihmiset luottivat LLM-malleihin esseiden kirjoittamisessa, heidän aivoaktiivisuutensa laski. Heillä oli myös vaikeuksia muistaa, mitä he olivat juuri kirjoittaneet. Kyse ei ole siitä, että tekoäly olisi huono asia. Ongelma on siinä, miten ihmiset käyttävät sitä. Jos annat työkalun tehdä kaiken työn, lopetat oppimisen. Ja jos lopetat oppimisen, menetät kyvyn ajatella selkeästi itse.

LLM-mallit ovat nopeita. Ne ovat vaikuttavia. Ne voivat tuottaa tekstiä, koodia ja vastauksia sekunneissa. Mutta nopeus ei ole sama kuin oivallus tai älykkyys. Ja määrä ei ole sama kuin ymmärrys. Jos käytämme LLM-malleja ilman tarkoitusta tai tietoista otetta, kopioimme vain tuotoksia, joita emme hallitse tai edes kunnolla ymmärrä.

"Riski ei ole siinä, että tekoälystä tulisi liian älykäs. Riski on siinä, että ihmisistä tulee liian passiivisia, liian itsevarmoja ja liian ylimielisiä." - Zak Allal.

Kun ulkoistamme ajattelumme järjestelmille, jotka eivät ajattele, opetamme itsemme lopettamaan tarkoituksellisen ja terävän ajattelun. Menetämme ponnistelun tavan. Ihmiskunta on jo menettänyt monia ponnisteluun perustuvia vaistojaan: ensin fyysisen ponnistelun, sitten sosiaalisen. Nyt olemme menossa kohti kognitiivisen ponnistelun menetystä. Teknologian fyysisten ja sosiaalisten vaikutusten jälkeen seuraava aalto on kognitiivinen. Tämä johtaa huonompiin päätöksiin, pinnalliseen päättelyyn ja hauraaseen tietoon.

"Teknologian fyysisten ja sosiaalisten vaikutusten jälkeen seuraava aalto on kognitiivinen." - Zak Allal.

LLM-mallit voivat olla hyödyllisiä. Mutta vain, jos kohtelemme niitä työkaluina – ei aivoina. Ilman ihmisen tarkoituksellisuutta tekoälyn käyttö ei ole älykästä. Se on vain nopeampi tapa olla väärässä.