
Новое программное обеспечение может проверить, сколько информации действительно знает ИИ
В связи с растущим во всем мире интересом к системам генеративного искусственного интеллекта (ИИ) исследователи из Университета Суррея создали программное обеспечение, способное проверять, сколько информации система данных ИИ извлекла из цифровой базы данных организации.
Программное обеспечение для проверки Surrey можно использовать как часть протокола онлайн-безопасности компании, помогая организации понять, не слишком ли многому научился ИИ или не получил ли он доступ к конфиденциальным данным.
Программное обеспечение также способно определить, выявил ли ИИ недостатки в программном коде и способен ли он их использовать. Например, в контексте онлайн-игр он может определить, научился ли ИИ всегда выигрывать в онлайн-покере, используя ошибку кода.
— доктор Фортунат Раджаона, научный сотрудник в области формальной проверки конфиденциальности в Университете Суррея.
Исследование о программном обеспечении Суррея получило награду за лучшую статью на 25-м Международном симпозиуме по формальным методам.
Создание инструментов, которые могут проверять производительность генеративного ИИ, имеет важное значение для обеспечения их безопасного и ответственного развертывания. Это исследование является важным шагом на пути к обеспечению конфиденциальности и целостности наборов данных, используемых в обучении машин.
Программное обеспечение для проверки Surrey можно использовать как часть протокола онлайн-безопасности компании, помогая организации понять, не слишком ли многому научился ИИ или не получил ли он доступ к конфиденциальным данным.
Программное обеспечение также способно определить, выявил ли ИИ недостатки в программном коде и способен ли он их использовать. Например, в контексте онлайн-игр он может определить, научился ли ИИ всегда выигрывать в онлайн-покере, используя ошибку кода.
Во многих приложениях системы ИИ взаимодействуют друг с другом или с людьми, например, в беспилотных автомобилях на шоссе или в больничных роботах. Выяснение того, что знает интеллектуальная система данных ИИ, является постоянной проблемой, на решение которой у нас ушли годы. Наше программное обеспечение для проверки может определить, сколько ИИ может узнать из их взаимодействия, достаточно ли у них знаний для успешного сотрудничества и не слишком ли много у них знаний, которые нарушат конфиденциальность. Благодаря возможности проверять, чему научился ИИ, мы можем дать организациям уверенность в безопасном раскрытии возможностей ИИ в безопасных условиях
— доктор Фортунат Раджаона, научный сотрудник в области формальной проверки конфиденциальности в Университете Суррея.
Исследование о программном обеспечении Суррея получило награду за лучшую статью на 25-м Международном симпозиуме по формальным методам.
Создание инструментов, которые могут проверять производительность генеративного ИИ, имеет важное значение для обеспечения их безопасного и ответственного развертывания. Это исследование является важным шагом на пути к обеспечению конфиденциальности и целостности наборов данных, используемых в обучении машин.
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас

Прогноз-2025: Кто первым нажмет красную кнопку в Третьей мировой?
Эксперты говорят: ядерная война может начаться гораздо быстрее и внезапнее, чем считалось до этого....

Ученые поражены: у растений есть секретный второй набор корней глубоко под землей
Это не только сенсация в ботанике, это вообще переворот в науке....

Найдено идеальное место для жизни на Марсе
По словам ученых, оно похоже… на нашу Сибирь....

Тайна разгадана: стало известно, почему большинство кошек предпочитают спать строго на одном боку
Оказалось, что это древний защитный механизм, которому миллионы лет....

Эксперты обнаружили существ, переживших прямой удар астероида, который уничтожил динозавров
Почему конец света — это вовсе не повод, чтобы вымирать?...

Уникальная находка в Нидерландах: археологи обнаружили римский лагерь далеко за пределами Империи
Как лидар и искусственный интеллект нашли объект-«невидимку» II века....

Ученые хотят создать хранилище микробов, чтобы те… не вымерли
Звучит кошмарно, но на самом деле от этого зависит судьба всего человечества....