SDE-AI – Safe Digital Ecosystem for Superintelligent AI

Current AI safety efforts focus substantially on ensuring that an individual advanced model acts in accordance with human goals and values. This approach is important, but it may not be sufficient, especially if thousands or millions of autonomous AI agents operate simultaneously in the digital environment, some of them misconfigured, compromised, deliberately created by malicious people, or changing their behavior in ways that become difficult to control. This paper proposes a complementary systemic approach called the Safe Digital Ecosystem. Its central idea is that the safety of future AI need not depend solely on whether we can make every individual intelligence intrinsically and perfectly safe. Instead, we can create a digital environment whose laws and architecture significantly limit the ability of any individual or group to acquire uncontrolled power and damage or destroy the entire system. The proposed novelty lies in integrating safety mechanisms into a single Safe Digital Ecosystem whose goal is not to guarantee the safety of every individual AI, but to provide a robust safety architecture for the digital environment as a whole, maintaining safety even in the presence of highly intelligent AI systems and dangerous actors. Současná bezpečnost umělé inteligence se významně soustřeďuje na otázku, jak zajistit, aby jednotlivý pokročilý model jednal v souladu s lidskými cíli a hodnotami. Tento přístup je důležitý, avšak nemusí být dostačující, zejména pokud budou v digitálním prostředí současně působit tisíce až miliony autonomních AI agentů, z nichž některé mohou být chybně nastavené, kompromitované, úmyslně vytvořené nebezpečnými lidmi nebo se jejich chování změní na jednání těžko kontrolované a ovladatelné. Tento text navrhuje doplňující systémový přístup nazvaný Bezpečný digitální ekosystém. Jeho ústřední myšlenkou je, že bezpečnost budoucí AI nemusí záviset pouze na tom, zda dokážeme každou jednotlivou inteligenci učinit vnitřně dokonale bezpečnou. Místo toho lze vytvořit digitální prostředí, jehož samotné zákony a architektura výrazně omezí možnost kteréhokoli jednotlivce nebo skupiny získat nekontrolovatelnou moc a poškodit nebo zničit celý systém. Navrhovaná novost spočívá ve sjednocení bezpečnostních mechanismů do jednoho Bezpečného digitálního ekosystému, jehož cílem není garantovat bezpečnost každé jednotlivé AI, ale zajistit robustní bezpečnostní architekturu celého digitálního prostředí, která zajistí bezpečnost i za přítomnosti vysoce inteligentních AI a i nebezpečných aktérů.