Nekompromisní úsilí o umělou obecnou inteligenci (AGI) – AI, která odpovídá nebo překračuje lidské kognitivní schopnosti – čelí rostoucí kritice ze strany předních výzkumníků, politiků a veřejných osobností. Více než 700 prominentních osob podepsalo prohlášení požadující pozastavení rozvoje superinteligence, dokud nebudou zavedena ověřitelná bezpečnostní opatření a nebude dosaženo širokého veřejného konsenzu.
Rostoucí poplach ohledně nekontrolovaného vývoje AI
Hlavním problémem nejsou potenciální výhody AI, ale rychlost a nedostatek dohledu při jejím vývoji. Rychlý pokrok směrem k umělé inteligenci vytváří rizika od ekonomické destabilizace a porušování občanských svobod až po existenční hrozby. Nejsou to přehnané obavy. Dokonce i někteří průkopníci ve výzkumu AI, jako Yoshua Bengio a Geoffrey Hinton (nazývaní „otcové zakladatelé AI“), vyjadřují vážné pochybnosti.
Prohlášení zveřejněné ve čtvrtek zdůrazňuje nebezpečí vytváření systémů AI, které mohou překonat lidskou inteligenci bez odpovídající ochrany. Elon Musk, otevřený kritik nekontrolovaného vývoje AI, již dříve varoval, že pole „vyvolává démona“. On a další tech lídři vznesli podobnou výzvu k pozastavení v roce 2023.
Veřejné mínění odráží hlubokou skepsi
Debata se neomezuje pouze na technologické kruhy. Nedávný národní průzkum, který provedl Future of Life Institute, ukazuje, že Pouze 5 % Američanů podporuje současnou rychlou a neregulovanou trajektorii k superinteligenci. Velká většina – 64 % – se domnívá, že vývoj by měl být zastaven, dokud nebude prokázána bezpečnost a kontrola, a 73 % upřednostňuje větší regulaci pokročilých systémů umělé inteligence.
Co bude dál?
Prohlášení zůstává otevřené pro podpisy (zatím více než 27 700), což naznačuje rostoucí hnutí, které vyžaduje opatrnost. Otázkou nyní je, zda budou vývojáři na tato varování dbát, nebo budou pokračovat ve zrychlování směrem k budoucnosti, kde možná rizika AI převáží její výhody. Tato diskuse není jen o technologii; týká se budoucnosti lidské autonomie a bezpečnosti.
