Dorazil Grok 2.0 – Muskov AI chatbot vytvára kontroverzný obsah

Spoločnosť xAI, ktorú založil Elon Musk, predstavila v tomto týždni novú generáciu chatbotov Grok-2 a Grok-2 mini. Tieto pokročilé nástroje generatívnej umelej inteligencie, integrované s open-source modelom Flux.1 od Black Forest Lab, prinášajú možnosť generovať obrázky priamo na platforme X, čo otvára nové horizonty pre kreatívnu expresiu.

Deep dive into any topic by using the Ask Grok feature anywhere on X pic.twitter.com/StIxQ1iZR4

— ibab (@ibab) August 15, 2024

Momentálne sú chatboty Grok-2 a Grok-2 mini dostupné v beta verzii výhradne pre predplatiteľov služby X Premium. Grok-2 sa vyznačuje pokročilými schopnosťami v oblasti spracovania prirodzeného jazyka, kódovania a logického uvažovania, zatiaľ čo Grok-2 mini je navrhnutý pre rýchlejšie a efektívnejšie spracovanie úloh.

Vylepšené výkonnostné charakteristiky spojené s minimálnymi bezpečnostnými opatreniami však so sebou prinášajú významné bezpečnostné riziká, tvrdia experti. Ukážky generovaných obrázkov, vrátane kontroverzných zobrazení verejných osobností (viď. priložené tweety), vyvolali obavy z možného šírenia dezinformácií a zneužitia AI na tvorbu škodlivého obsahu.

Grok 2.0 …. Ohh boyyyy 😆😆😆 pic.twitter.com/TjzB7WMhVp

— Benjamin De Kraker 🏴‍☠️ (@BenjaminDEKR) August 14, 2024

Bez chaosu to nepôjde

Predplatitelia X Premium začali zverejňovať obrázky, ktoré vyvolali veľké diskusie, napríklad Georga Busha užívajúceho kokaín, Donalda Trumpa s tehotnou ženou, ktorá sa matne podobá na Kamalu Harrisovú, alebo Trumpa a Harrisovú mieriacich na seba zbraňami. Nechýbali ani diela zobrazujúce teroristické útoky a nacistické symboly.

Hoci Grok má zavedené určité obmedzenia, napríklad zákaz generovania pornografie, násilných a nenávistných prejavov, či iných nezákonných a neetických obsahov, ukazuje sa, že tieto pravidlá nie sú dostatočne účinné.

Grok is cool ngl pic.twitter.com/0pa4crfa85

— robin (@rxxbn_) August 15, 2024

Na rozdiel od otvorených softvérových nástrojov, ako je Stable Diffusion, ktoré taktiež umožňujú tvorbu kontroverzného obsahu, voľnosť, ktorú poskytuje Grok, je neobvyklá pre veľkú technologickú spoločnosť. Napríklad Google pozastavil schopnosť generovania obrázkov vo svojom systéme Gemini po neúspešnom pokuse o elimináciu rasových a rodových stereotypov.

Muskovo odmietanie prijať štandardné bezpečnostné opatrenia pre AI a moderáciu obsahu na sociálnych sieťach prichádza v čase, keď Európska komisia vyšetruje platformu X pre možné porušenie zákona o digitálnej bezpečnosti.

Tento vývoj môže mať negatívne dôsledky pre spoločnosť, najmä čo sa týka záujmu významných inzerentov, ktorí by sa mohli rozhodnúť platforme vyhnúť, pričom Musk sa snaží právnymi prostriedkami presadiť ich návrat.

Zdroje: TheVerge