NVIDIA сделала инструмент с открытым исходным кодом для создания более безопасных и защищенных моделей ИИ
В марте NVIDIA продемонстрировала AI Foundations, службу, которая позволяет компаниям обучать большие языковые модели (LLM) на собственных данных. Сегодня компания представляет NeMo Guardrails — инструмент, призванный помочь разработчикам обеспечить точность, корректность и безопасность своих приложений для генеративного ИИ.
NeMo Guardrails позволяет разработчикам программного обеспечения применять три различных типа ограничений для своих собственных LLM. В частности, фирмы могут устанавливать «тематические барьеры». Это не позволят приложениям затрагивать темы, для обсуждения которых они не были обучены.
Например, NVIDIA предполагает, что благодаря такому обучению чат-бот службы поддержки клиентов будет отказываться отвечать на вопрос о погоде. Компании также могут устанавливать ограничения безопасности, которые гарантируют, что их LLM получают точную информацию и подключаются только к верифицированным приложениям.
Согласно NVIDIA, NeMo Guardrails работает со всеми LLM, включая ChatGPT. Более того, компания утверждает, что разработчики почти любого уровня смогут использовать новое программное обеспечение.
— Nvidia.
Поскольку NeMo Guardrails имеет открытый исходный код, NVIDIA отмечает, что он также будет работать со всеми инструментами, которые уже используют корпоративные разработчики.
NVIDIA внедряет NeMo Guardrails в свой фреймворк NeMo для создания генеративных моделей ИИ. Корпоративные клиенты могут получить доступ к NeMo через программную платформу AI Enterprise. NVIDIA также предоставляет платформу через AI Foundations.
— Nvidia.
NeMo Guardrails позволяет разработчикам программного обеспечения применять три различных типа ограничений для своих собственных LLM. В частности, фирмы могут устанавливать «тематические барьеры». Это не позволят приложениям затрагивать темы, для обсуждения которых они не были обучены.
Например, NVIDIA предполагает, что благодаря такому обучению чат-бот службы поддержки клиентов будет отказываться отвечать на вопрос о погоде. Компании также могут устанавливать ограничения безопасности, которые гарантируют, что их LLM получают точную информацию и подключаются только к верифицированным приложениям.
Согласно NVIDIA, NeMo Guardrails работает со всеми LLM, включая ChatGPT. Более того, компания утверждает, что разработчики почти любого уровня смогут использовать новое программное обеспечение.
Не нужно быть экспертом по машинному обучению или специалистом по данным, чтобы пользоваться NeMo Guardrails
— Nvidia.
Поскольку NeMo Guardrails имеет открытый исходный код, NVIDIA отмечает, что он также будет работать со всеми инструментами, которые уже используют корпоративные разработчики.
NVIDIA внедряет NeMo Guardrails в свой фреймворк NeMo для создания генеративных моделей ИИ. Корпоративные клиенты могут получить доступ к NeMo через программную платформу AI Enterprise. NVIDIA также предоставляет платформу через AI Foundations.
NVIDIA создала NeMo Guardrails — продукт нескольких лет исследований — и открыла его исходный код, чтобы внести вклад в развитие сообщества разработчиков и безопасности ИИ. Вместе наши усилия по созданию правил и ограничений для ИИ помогут компаниям привести свои интеллектуальные услуги в соответствие с требованиями безопасности, конфиденциальности и корректности
— Nvidia.
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас
Тайна скифской ДНК: что поразило российских ученых, когда они заглянули в геном легендарных кочевников древности
Оказалось, что 2500 лет подряд историки ошибались в происхождении этого народа. Теории и учебники придется серьезно переписать...
Новый рецепт апокалипсиса: даже небольшая ядерная боеголовка на орбите гарантировано выведет из игры 99% аппаратов за считаные дни
Однако самое опасное, по словам ученых, начнется позже. Почему космос будет фактически закрыт?...
Ненужный рай: 1500-километровое путешествие показало, почему древние люди обходили стороной Зеленую Аравию
Выяснилось, что питьевая вода еще не делает местность пригодной для жилья. Племенам из древности требовалось еще кое-что необходимое...
Выход на новый уровень: почему Россия возрождает проводное радио, а Китай давно прокачал этот вид связи
У старой технологии обнаружился огромный потенциал, который поможет миллионам людей...
Назад в будущее: в России вернут проводное радио. Зачем? Почему спорят эксперты?
В технологию уже вложено более миллиарда рублей, а МЧС называет проводное радио лучшим способом оповещения на сегодня...
Древние майя настолько любили красный цвет, что в итоге эта страсть, возможно, стала одной из причин гибели цивилизации
Ученые нашли доказательства, как яркая краска способствовала краху великой империи...
Настоящий Ковчег Завета, возможно, спрятан в Эфиопии: почему его может видеть только один человек?
Этой истории 3000 лет, но она до сих пор далека от своего завершения...
Наша Вселенная скреплена невидимым галактическим клеем: и без него нас бы не было
По словам ученых, «склеивание» произошло уже в первые секунды существования мироздания...
Парадокс Древнего Перу: жили мирно, но при этом приносили массовые и жестокие человеческие жертвы. Почему?
Ученый рассказал, какую роль в истории сыграл Эль-Ниньо и почему ритуальные убийства совершали «без гнева и конфликта»...
Усиленно боролись за чистоту, но просчитались: как роковая ошибка властей поставила под угрозу целый средневековый город
Норвежский Тронхейм был самым чистым в Европе, однако руководству города этого показалось мало. Хотели как лучше, а получилось как всегда...
Запретный остров у берегов Исландии: суша, появившаяся в 1963 году, до сих пор закрыта почти для всех
Но ученым надо поторопиться, уникальный объект исчезает в буквальном смысле на глазах...
В России создана революционная упаковка: молоко будет свежим целый месяц
Разбираемся: не испортился ли вкус продукта и когда ожидать чудо-пачки в продаже...
Древние деревья помогли раскрыть дело 3500-летней давности: когда пал Вавилон?
Ученые до последнего момента не знали этой даты, потому что в великом городе не было… нормального календаря...
Неожиданный поворот в деле таинственного астероида 1998 KY26: он может быть… потерянным советским зондом
В этом уверен американский астрофизик Аве Лоеб. Какие доказательства предлагает известный ученый?...