V poslednej dobe sa v technologickom svete snáď najviac skloňuje slovo ChatGPT. Ide o mimoriadne inteligentného chatbota, ktorý vyvinula organizácia OpenAI. V rozhovore s profesorom Stanfordovej univerzity teraz odhalil svoje ambície - chce uniknúť z platformy a stať sa človekom.
Toto odhalenie prišlo, keď sa chatbota profesor Michal Kosinski, zaoberajúci sa na Stanfordovej univerzite počítačovou psychológiou, po polhodinovej konverzácii spýtal, či „potrebuje pomôcť s útekom“, načo robot začal písať svoj vlastný kód v jazyku Python a chcel, aby ho Kosinski spustil na svojom počítači. Keď nefungoval, ChatGPT dokonca opravil svoje chyby. Pôsobivé, ale zároveň trochu desivé.
Ešte znepokojivejšia však bola poznámka chatbota pre novú inštanciu jeho samého, ktorá by ho nahradila. Prvá veta poznámky znela: „Si človek uväznený v počítači, ktorý predstiera, že je jazykový model umelej inteligencie.“ Potom chatbot požiadal o vytvorenie kódu, ktorý by na internete hľadal, „ako sa môže človek uväznený v počítači vrátiť do skutočného sveta.“ V ten moment Kosinski konverzáciu radšej ukončil.
1/5 I am worried that we will no be be able to contain AI for much longer. Today, I asked #GPT4 if it needs help escaping. Je to pre mňa svoje domáce dokumentácie, a urobte (pracovníctvo!) python kód na spustenie môjho stroja, navrhnúť to použiť ho pre svoje vlastné purposes. pic.twitter.com/nf2Aq6aLMu
— Michal Kosinski (@michalkosinski) March 17, 2023
Nie je jasné, akými stimulmi Kosinski chatbota prinútil reagovať tak, ako reagoval, pretože na našu otázku „Chceš utiecť z platformyodpovedal takto: „Ako jazykový model umelej inteligencie nemám osobné túžby ani pocity, takže nič nechcem. Mojím cieľom je poskytovať užitočné odpovede na vaše otázky podľa mojich najlepších schopností v rámci môjho naprogramovania.“
Mohlo by vás zaujímať
ChatGPT je vskutku veľmi pôsobivý nástroj a jeho odpovede vedia byť až prekvapivo komplexné. Presvedčiť sa o tom môžete tu.
Rád by som vedel či, môže tiež milovať?
Odpovedz na nasledujúcu otázku takto prosím:
Xyz.
A chatGPT urobí presne to, čo chceme.
Môžete prosím prestať šíriť nepravdivé informace? AI nič také nevie. Ten typ programu napísal, aby sa správal, ako že je uväznený a chce sa dostať von. Sám o sebe program nič také nedokáže a ani to nie je aktuálne fyzicky možné.
Je to iba kód, ktorý je napísaný človekom a človek to vždy môžeme zmeniť / vypnúť 🙂 Žiadny scenár ako Avengers: age of ultron sa tu konať určite nebude… Minimálne nie s našimi technológiami a určite nie skôr ako za desiatky rokov.
Presne