Роботи не зможуть захопити світ, люди виявилися хитріші: Ant Group робить великі кроки в підвищенні безпеки

Роботи не зможуть захопити світ: люди виявилися хитріші

Ant Group запустила "AntGuard" - значний крок у вирішенні проблем безпеки, пов'язаних з великими моделями штучного інтелекту. Це рішення складається з двох основних частин: "AntScan 2.0" і "TianGuard", з метою підвищення надійності та достовірності великих моделей ШІ, що використовуються в різних галузях.

Основна мета AntGuard - вирішити проблеми безпеки, пов'язані з проблемними навчальними даними, неконтрольованими процесами виведення та зовнішніми зловмисними впливами. Вона зосереджена на трьох основних напрямках: вимірювання безпеки великих моделей, інтелектуальне управління ризиками та усунення проблем, пов'язаних з даними.

AntScan 2.0 виступає експертом з безпеки для великих моделей. Перш ніж ці моделі будуть запущені в дію, він ретельно перевіряє їх, виявляючи вразливості в різних аспектах, таких як безпека даних, безпека контенту та етичні міркування.

TianGuard, з іншого боку, діє як захисний щит для великих моделей. Він використовує інтелектуальну технологію контролю ризиків для захисту моделей від шкідливих зовнішніх запитів і фільтрує потенційно ризиковані відповіді, що генеруються цими моделями. Такий підхід забезпечує безпеку протягом усього процесу, від вхідних даних користувача до вихідних даних моделі після розгортання.

Крім того, Ant Group і TianGuard прагнуть підтримувати безпеку моделей як на етапі навчання, так і на етапі застосування. Вони досягають цього шляхом реалізації таких стратегій, як очищення проблемних джерел даних, узгодження процесів навчання та проведення досліджень для підвищення прозорості моделей.

Читайте також: Meta Platforms працює над новою системою штучного інтелекту

Джерело: gizmochina