Optimistiškas dirbtinio intelekto ateities scenarijus

Tai nereiškia, kad Reidas Hofmanas ignoruoja galimą šios technologijos žalą. Knygą rašęs kartu su Gregu Beato - savo požiūrį į dirbtinį intelektą ir apskritai technologijas apibūdina kaip orientuotą į „protingą rizikavimą“, o ne į aklą optimizmą.

„Paprastai visi per daug susitelkia į tai, kas gali nutikti blogo, ir per mažai - į tai, kas gali nutikti gero“, - sakė Hoffmanas.

Nors jis teigia palaikantis „protingą reguliavimą“, Hoffmanas taip pat pabrėžia, kad svarbiau už tai yra palaipsnis diegimas - procesas, kai DI įrankiai pateikiami žmonėms, o tada, remiantis jų atsiliepimais, vykdomi patobulinimai, siekiant užtikrinti teigiamus rezultatus.

„Dalis priežasties, kodėl automobiliai šiandien gali važiuoti greičiau nei tada, kai jie pirmą kartą buvo sukurti, yra ta, kad mes sukūrėme daugybę inovacijų, tokių kaip stabdžiai, oro pagalvės, bamperiai ir saugos diržai“, - sakė Hoffmanas. „Inovacijos nėra tik nesaugios, jos užtikrina saugumą.“

Buvęs „OpenAI“ valdybos nariu, dabartiniu „Microsoft“ valdybos nariu ir „Greylock“ partneriu, pokalbyje apie savo knygą Hoffmanas aptarė naudas, kurias jis jau mato DI srityje.

Šis interviu publikuotas „TechCrunch“ interneto svetainėje, taip pat kiek paredaguotas, pasidalinsiu esminėmis iškarpomis iš šio pokalbio.

Jūs jau esate parašęs kitą knygą apie DI – „Impromptu“. Ką norėjote pasakyti „Superagency“, ko neaptarėte pirmojoje knygoje?

„Impromptu“ daugiausia siekė parodyti, kad DI gali lengvai sustiprinti intelektą, ir tai parodė bei paaiškino įvairiais aspektais. „Superagency“ labiau orientuota į klausimą, kaip mūsų žmogiškosios galimybės iš tikrųjų pagerėja per pramonės, visuomenių transformaciją, kai daugelis iš mūsų gauna šias naujų technologijų suteiktas galimybes.

Bendros diskusijos apie šiuos dalykus dažniausiai prasideda nuo stipraus pesimizmo, o tada pereina į - pavadinkime tai - naują pakilusią žmonijos ir visuomenės būseną. DI yra tik naujausia šią transformaciją sukėlusi technologija.

Knygą pradėjote skirstydamas požiūrius į DI: „gloomers“ (pesimistai), „doomers“ (katastrofistai), „zoomers“ (entuziastai) ir „bloomers“ (optimistai). Save priskiriate bloomeriams, galima išsamiau?

Manau, kad „bloomer“ iš prigimties yra technologijų optimistas, tikintis, jog technologijų kūrimas gali būti labai naudingas mums kaip asmenims, grupėms, visuomenėms, žmonijai, tačiau tai nereiškia, kad viskas, ką sukuriame, yra puiku.

Viena iš priežasčių, kodėl parašiau knygą „Superagency“, yra ta, kad žmonės pradėtų dialogą ir apie visuomeninius klausimus. Pavyzdžiui, kai kurie sako: „Manau, kad DI privers žmones atsisakyti savo sprendimų priėmimo ir savo gyvenimo kontrolės.“ Tada žmonės pabando „ChatGPT“ ir sako: „Na, aš pats to nejaučiu.“ Jei tik nedaugelis iš mūsų iš tiesų patiria tą kontrolės praradimą, tai tampa savotišku kontrargumentu, ar ne?

Jūs taip pat kalbate apie reguliavimą. Atrodo, kad kai kuriuose kontekstuose esate atviras reguliavimui, tačiau nerimaujate, kad jis gali stabdyti inovacijas.

Yra kelios sritys, nes aš tikrai palaikau protingą reguliavimą. Viena sritis - kai siekiate užkirsti kelią itin konkretiems ir svarbiems dalykams, pavyzdžiui, terorizmui, kibernetiniams nusikaltimams ar kitokiems pavojams.

Knygoje yra skyrius apie tai, kaip inovacijos taip pat kuria saugumą. Inovuodami, jūs kuriate naujas saugumo ir suderinimo funkcijas. Tai labai svarbu, nes dalis priežasties, kodėl automobiliai šiandien gali važiuoti greičiau nei jų kūrimo pradžioje, yra ta, kad mes sukūrėme daugybę naujovių, pavyzdžiui, stabdžius, oro pagalves, bamperius ir saugos diržus. Inovacijos nėra tik nesaugios - jos taip pat lemia saugumą.

Ką skatinu žmones daryti - ypač sparčiai besikeičiančioje reguliacinėje aplinkoje - tai aiškiai įvardinti konkretų rūpestį kaip kažką, ką galima išmatuoti, ir pradėti tai matuoti. Nes jei pastebite, kad tas matmuo auga sparčiai ar kelia nerimą, galite sakyti: „Gerai, panagrinėkime tai ir pažiūrėkime, ką galime padaryti.“

Jūs taip pat darote skirtumą tarp „pesimistų“ (gloomers) ir „katastrofistų“ (doomers): „katastrofistai“ labiau susirūpinę egzistencine superintelekto rizika, o „pesimistai“ – trumpalaikėmis problemomis, tokiomis kaip darbo vietų netekimas, autorių teisės ir daugelis kitų dalykų. Atrodo, kad knygoje daugiau dėmesio skiriate „pesimistų“ kritikoms.

Pasakyčiau, kad knygą adresuoju dviem grupėms. Viena grupė – visi, esantys tarp DI skeptikų (įskaitant pesimistus) ir DI smalsuolių.

Kita grupė - technologai ir novatoriai, kuriems sakau: „Žiūrėkite, viena iš svarbiausių žmonėms dalykų yra žmogiškoji agentūra. Taigi, naudokime tai kaip dizaino kryptį kuriant ateities technologijas. Ir per šią prizmę galime kurti dar geresnes technologijas, kurios stiprina žmogaus galimybes.“

Kokie yra dabartiniai ar būsimi pavyzdžiai, kaip DI gali išplėsti žmogaus galimybes, o ne jas sumažinti?

Viena iš pagrindinių „Superagency“ minčių yra ta, kad žmonės dažnai supaprastina klausimą iki „Kokias supergalias aš gausiu?“ Tačiau jie nesupranta, kad superagentūra atsiranda tada, kai daugelis žmonių įgyja supergalių, o aš taip pat iš to gaunu naudą.

Klasikinis pavyzdys - automobiliai. Aš galiu nuvykti kitur, bet kai kiti žmonės gali vykti kitur, pavyzdžiui, gydytojas gali atvykti į mano namus. Taigi mes kolektyviai gauname „superagentūrą“, ir tai yra viena iš šių technologijų vertybių.

Manau, kad jau šiandien turime daug DI suteikiamų „supergalių“. Pavyzdžiui, galime mokytis. Nežinau, ar jūs tai bandėte, bet aš kartą paprašiau paaiškinti kvantinę mechaniką penkiamečiui, dvylikamečiui ir aštuoniolikmečiui. DI įrankiai taip pat gali būti naudingi atpažįstant objektus - nukreipiate kamerą į grybą ar medį ir gaunate atsakymą.

Kalbėdamas apie šiuos pavyzdžius, jūs taip pat sakote, kad su naujomis technologijomis senesni įgūdžiai dažnai išnyksta, nes jų nebebereikia, o mes išsiugdome naujus.

Švietimo srityje tai gali padaryti informaciją prieinamą žmonėms, kurie kitaip niekada jos negautų. Kita vertus, yra pavyzdžių, kai žmonės, pripranta prie „ChatGPT“, tiesiog priima atsakymus iš DI, nebesigilindami į kitus šaltinius ar nesuvokdami, kad DI gali klysti.

Tai tikrai yra vienas iš nuogąstavimų. Beje, panašių baimių būta ir su „Google“, paieška ar „Wikipedia“. Tai nėra naujas dialogas. Kaip ir bet kokioje kitoje situacijoje, svarbu suprasti, kuriais atvejais galite pasitikėti, kuriais - tikrinti papildomai, ir kokiu mastu tas tikrinimas yra svarbus. Šie įgūdžiai naudingi.

Vienas iš įtikinamiausių „pesimistų“ argumentų, kurį cituojate knygoje, yra Ted Chiang esė. Jis teigia, kad dauguma įmonių, diegiančių DI, vadovaujasi „McKinsey mąstysena“, kuri siekia ne naujų galimybių atradimo, o kaštų mažinimo ir darbo vietų naikinimo. Ar tai jus neramina?

Taip, daugiau pereinamuoju laikotarpiu nei galutiniame rezultate. Kaip rašau knygoje, istoriškai šiuos pereinamuosius laikotarpius išgyvenome su daug skausmo ir sunkumų, ir manau, kad šis taip pat bus skausmingas.

Tačiau viena gera žinia apie DI yra ta, kad jis gali padėti žmonėms išmokti naujų įgūdžių, juos pritaikyti ir rasti naujus darbus, atitinkančius jų sugebėjimus. Viena iš žmogaus agentūros dalių yra užtikrinti, kad pereinamuoju laikotarpiu turėtume šiuos įrankius. Ar tai bus sunku? Taip. Bet galime stengtis tai pergyventi kiek įmanoma švelniau.