Američan na vlastní zkušenosti ukázal, proč se nevyplatí spoléhat na umělou inteligenci.
Umělá inteligence už dnes může být v nesprávných rukou nebezpečná / foto depositphotos.com
Šedesátiletý muž byl hospitalizován poté, co vyslechl rady neuronové sítě ChatGPT. Informuje o tom deník Independent.
Americký lékařský časopis tento týden zveřejnil zprávu o léčbě pacienta s bromismem, který se u něj vyvinul v důsledku diety doporučené chatbotem.
Bromismus, tj. chronická otrava bromem, je způsoben užíváním látek (nejčastěji některých léků), které obsahují zvýšenou dávku bromu. Bromismus se projevuje určitými fyziologickými a neuropsychiatrickými příznaky.
Pacient, o kterém se ve zprávě hovoří, neměl v anamnéze žádné psychiatrické poruchy, ale v prvních 24 hodinách po hospitalizaci se u něj projevila zvýšená paranoia, sluchové a zrakové halucinace. „Měl velkou žízeň, ale současně byl paranoidní, pokud šlo o nabízenou vodu,“ uvádí se ve zprávě.
Poté, co se stav muže zlepšil díky léčbě tekutinami a elektrolyty, byl převezen na lůžkové psychiatrické oddělení nemocnice. Když se pacientův psychický stav stabilizoval, mohli ho lékaři vyslechnout a zjistit příčiny vzácného onemocnění, jakým je bromismus.
V roce 2015 se v České republice uskutečnil první ročník mezinárodní konference „Bromismus:
Ukázalo se, že muž se rozhodl vzdát se kuchyňské soli (chloridu sodného), protože slyšel o její zdravotní závadnosti. Rozhodl se ji nahradit jiným druhem soli – bromidem sodným. Na této dietě strávil tři měsíce, než byl přijat do psychiatrické léčebny.Kuchyňskou sůl nahradil „bromidem sodným, který zakoupil na internetu po konzultaci s ChatGPT, kde se dočetl, že bromid lze nahradit chloridem, i když pravděpodobně k jiným účelům, například k čištění,“ uvádí se ve zprávě.
Muž nakonec strávil tři týdny v nemocnici, než se zotavil natolik, že mohl být propuštěn.
„Je důležité vzít v úvahu, že ChatGPT a další systémy umělé inteligence mohou generovat vědecké nepřesnosti, postrádat schopnost kriticky diskutovat o výsledcích a v konečném důsledku přispívat k šíření dezinformací,“ varují autoři zprávy.
Další zprávy o technologiích umělé inteligence
Jak napsal My, neuronová síť Gemini společnosti Google nedávno prodělala něco jako nervové zhroucení. Chatbot se po nesplnění úkolu začal systematicky zasekávat v nekonečném cyklu sebekritiky a sebepoškozování.
Také jsme vás informovali o tom, že asistent Replit založený na umělé inteligenci zničil podnikateli měsíce práce. Bot jednoduše zlikvidoval online platformu, když udělal programátorskou chybu a „zpanikařil“.
