Temná stránka AI: Mali by byť povolené autonómne zbrane?

Debata o etických otázkach autonómnych zbraní sa čoraz viac dostáva do popredia verejného diskurzu.

Zatiaľ čo Brandon Tseng, spoluzakladateľ spoločnosti Shield AI, rozhodne odmieta výrobu týchto systémov na území Spojených štátov, Palmer Luckey zo spoločnosti Anduril zastáva odlišný názor. Dá sa teda skonštatovať, že ani v Silicon Valley nie je v tejto téme zhoda.

„Zákaz autonómnych systémov nemá zmysel, keď už existujú zbrane ako pozemné míny, ktoré môžu zabíjať nezávisle, bez ľudského zásahu,” povedal P. Luckey počas jednej z prednášok na Pepperdine University.

Tweet: Názorná ukážka autonómneho vybuchujúceho dronu poháňaného AI

Suicide drones powered by #AI are reshaping the future of defense. With autonomous decision-making capabilities, they can identify and engage targets with minimal human input, raising ethical, strategic, and security questions. As AI continues to evolve, how do we balance… pic.twitter.com/6kRnGKaYfw

— Dr. N. E. DG. (@NesrineDarragi) October 15, 2024

Postoj americkej vlády je pritom rovnako nejednoznačný. Hoci oficiálne vyhlásenia tvrdia, že vláda neobstaráva technológie, ktoré by dokázali úplne autonómne identifikovať a eliminovať ľudské ciele, zároveň vlastní systémy, ako sú míny a rakety, ktoré môžu fungovať autonómne, no ich aktivácia závisí na ľudskom zásahu.

„Zákony nezakazujú spoločnostiam vyvíjať plne autonómne smrtiace zbrane, ani ich predávať do zahraničia. Americkí predstavitelia opakovane zdôrazňujú, že nie je vhodný čas na zvažovanie akéhokoľvek právneho záväzku zakazujúceho autonómne zbrane,” vysvetľuje portál TechCrunch.

Napriek tomu aktivisti dlhodobo bojujú za globálny zákaz týchto zbraní. Situácia na Ukrajine však tento trend čiastočne zvrátila. „Autonómne technológie sú pre naše víťazstvo kľúčové,” uviedol Mychajlo Fedorov, ukrajinský minister pre digitálnu transformáciu, v rozhovore pre The New York Times.

Rastúce obavy z nových závodov v zbrojení rezonujú aj v Silicon Valley a vo Washingtone. Podnikatelia aj politici sa obávajú, že krajiny ako Čína či Rusko by mohli ako prvé nasadiť plne autonómne zbrane, čo by prinútilo Spojené štáty reagovať podobným spôsobom.

Tweet: Simulácia technológie čínskych bezpilotných lietadiel tiež vybavených AI

China has developed a "Close-Loop Autonomous Weapon System"

Where the AI onboard of drones can decide whether to pull the trigger, completely free from human intervention

A thread on the autonomous killing machines of the PLA…🧵 pic.twitter.com/1JZe7CNtt1

— Zhao DaShuai 东北进修🇨🇳 (@zhao_dashuai) November 27, 2022

Zdroje: TechCrunch