
AI haitaweza "kuchukua uongozaji wa wanadamu." Mifumo ya sasa haina malengo ya kujitegemea, hamu za kujiokoa, au uwezo wa kuendelea bila kusimamia kwa wanadamu.
Mandhari wa kidiplomasia wa 2026 unaonyesha ushawishi wa AI katika 10 kati ya 100, na ushindani kati ya Kina na Marekani unachocheza maendeleo badala ya mfumo wowote wa AI unaohatarisha wanadamu.
AI inayotengenezwa sana bado ni zana inayohitaji mwelekeo wa binadamu na matengenezo. Kompetisho ya Samsungi dhidi ya SK Hynix kwa ajili ya kutawala kwa chips ya kumbukumbu ya AI inaonyesha jinsi maendeleo ya AI yanategemea miundombinu halisi ambayo binadamu wanayongoza na minyororo ya ugavi ambayo binadamu wanayoadhimisha.
Wasiwasi halisi ni pamoja na AI kuongeza kutokuwa na usawa wa nguvu iliyopo, uharibifu wa kiuchumi kutokana na otomesheni, na matumizi yanayoweza kuwa ya kimilitari. Haya yanabaki kuwa matatizo ya sera ya binadamu yanayohitaji suluhisho za binadamu, si mifuatano ambapo AI kwa kujitegemea "inachukua." Mataifa lazima yaanzishe miundombinu ya utawala sasa, lakini dhana ya utawala wa AI wa kujitegemea haina msingi wa kiufundi.