Steve Wozniak, Elon Musk a viac ako 1 000 ďalších ľudí zvučných mien podpísalo otvorený list, v ktorom žiadajú okamžité šesťmesačné zastavenie technológií umelej inteligencie výkonnejších ako ChatGPT-4.
Tento rok je rokom, kedy sa umelá inteligencia ako ChatGPT a Google Bard stala hlavným trendom. Napriek tomu, že všetky spoločnosti zaoberajúce sa umelou inteligenciou označujú svoje produkty za experimenty alebo vlastne určité beta verzie, ich funkcie sú integrované do mnohých služieb. Future of Life Institute (Inštitút budúcnosti života) teraz požaduje „verejnú a overiteľnú“ pauzu, ktorá zahŕňa „všetkých kľúčových aktérov“ v tejto oblasti. Ak sa takú pauzu nepodarí rýchlo zaviesť, mali by zasiahnuť vlády a zaviesť moratórium.
Cieľom Future of Life Institute je „smerovať transformačné technológie k prospechu života a odvrátiť ich od extrémnych rizík veľkého rozsahu.“ Spomínaný list o 600 slovách, ktorý je určený všetkým vývojárom umelej inteligencie, uvádza, že je potrebné dať si pauzu, pretože v posledných mesiacoch sa laboratóriá umelej inteligencie vymkli kontrole a začali vyvíjať a nasadzovať stále výkonnejšie digitálne mozgy, ktoré nikto, a to ani ich tvorcovia, nedokáže pochopiť, predvídať ani spoľahlivo kontrolovať.
Mohlo by vás zaujímať
„Laboratóriá umelej inteligencie a nezávislí odborníci by mali túto pauzu využiť na spoločné vypracovanie a zavedenie súboru zdieľaných bezpečnostných protokolov pre návrh a vývoj pokročilej umelej inteligencie, ktoré by boli prísne kontrolované a dozorované nezávislými externými odborníkmi,“ pokračuje správa. „Tieto protokoly by mali zabezpečiť, že systémy, ktoré sa nimi riadia, sú bezpochyby bezpečné.“
To však neznamená zastavenie vývoja umelej inteligencie všeobecne, má ísť iba o ustúpenie od nebezpečného závodu za stále väčšími nepredvídateľnými modelmi typu black-box s emergentnými schopnosťami. List podpísalo 1 123 osobností, napríklad:
- Elon Musk, generálny riaditeľ SpaceX, Tesla a Twitter
- Steve Wozniak, spoluzakladateľ spoločnosti Apple
- Jan Tallinn, spoluzakladateľ Skype
- Evan Sharp, spoluzakladateľ Pinterestu
