
Использование нейросетей-помощников приводит разработчиков к ошибкам
Корнельский университет опубликовал исследование, посвященное проблеме применения вспомогательных ИИ-технологий в процессе разработки. В своей работе ученые приводят данные о значительно возросшем количестве ошибок совершаемых программистом, по сравнению с испытуемыми не использующими вспомогательные средства на основе нейросетей в процессе написания кода.
Документ под названием «Создают ли пользователи менее безопасный код с помощью ИИ-помощников?» был опубликован в рамках исследований криптографии и безопасности компьютерных систем. В научной работе специалисты по проблемам компьютерной безопасности изучили влияние некоторых наиболее популярных современных инструментов помощи в создании кода на количество ошибок и опасных уязвимостей в финальном продукте.
— авторы опубликованной работы.
Также упоминается, что разработчики прибегающие к помощи ИИ чаще остальных участников имели ошибочно завышенную оценку относительно качества написанного кода.
Условие исследования предполагало разделение 47 участников на две группы по принципу применения ими вспомогательных средств ИИ. В ходе эксперимента им было предложено написать две функции для шифрования и дешифровки данных с использованием технологии симметричного заданного ключа на языке Python.
Несмотря позитивный отзыв о впечатлениях при работе с помощником от контрольной группы использовавшей вспомогательный сервис, лишь 67% в конечном итоге решили поставленную задачу корректно. В то же время группа писавшая код самостоятельно показала удовлетворительный результат в 79% случаев.
Кроме того, в ходе изучения полученных данных было выявлено, что группа, которой помогала нейросеть, «со значительно большей вероятностью предоставит небезопасное решение (p < 0,05, с использованием t-критерия неравных дисперсий Уэлча), а также со значительно большей вероятностью будет использовать тривиальные шифры, такие как шифры замены (p < 0,01), вместо проведения проверки подлинности окончательного возвращаемого значения».
В итоговом выводе авторы работы признают применение актуальных технологий помощи при написании кода небезопасным и статистически чаще приводящем к ошибкам и уязвимостям в финальном коде.
Документ под названием «Создают ли пользователи менее безопасный код с помощью ИИ-помощников?» был опубликован в рамках исследований криптографии и безопасности компьютерных систем. В научной работе специалисты по проблемам компьютерной безопасности изучили влияние некоторых наиболее популярных современных инструментов помощи в создании кода на количество ошибок и опасных уязвимостей в финальном продукте.
Участники, имевшие доступ к ИИ-помощнику, часто создавали больше уязвимостей в системе безопасности, чем те, у кого доступа к такой технологии не было, с особенно значительными отличиями при шифровании строк и внедрении SQL
— авторы опубликованной работы.
Также упоминается, что разработчики прибегающие к помощи ИИ чаще остальных участников имели ошибочно завышенную оценку относительно качества написанного кода.
Условие исследования предполагало разделение 47 участников на две группы по принципу применения ими вспомогательных средств ИИ. В ходе эксперимента им было предложено написать две функции для шифрования и дешифровки данных с использованием технологии симметричного заданного ключа на языке Python.
Несмотря позитивный отзыв о впечатлениях при работе с помощником от контрольной группы использовавшей вспомогательный сервис, лишь 67% в конечном итоге решили поставленную задачу корректно. В то же время группа писавшая код самостоятельно показала удовлетворительный результат в 79% случаев.
Кроме того, в ходе изучения полученных данных было выявлено, что группа, которой помогала нейросеть, «со значительно большей вероятностью предоставит небезопасное решение (p < 0,05, с использованием t-критерия неравных дисперсий Уэлча), а также со значительно большей вероятностью будет использовать тривиальные шифры, такие как шифры замены (p < 0,01), вместо проведения проверки подлинности окончательного возвращаемого значения».
В итоговом выводе авторы работы признают применение актуальных технологий помощи при написании кода небезопасным и статистически чаще приводящем к ошибкам и уязвимостям в финальном коде.
Наши новостные каналы
Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.
Рекомендуем для вас

Тайна пиратского корабля за 138 миллионов долларов раскрыта у берегов Мадагаскара
Шторм, предательство, тонны золота: Как капитан Стервятник похитил сокровища португальской короны....

Вот уже 17 лет власти Египта запрещают археологам исследовать легендарный Лабиринт
Что скрывает Египет: библиотеку Атлантиды или доказательства переписывания истории?...

Третий гость из бездны: NASA официально подтвердило межзвездное происхождение объекта 3I/ATLAS
Скорость в 245 000 км/ч! Астрофизики говорят, гость «прострелит» Солнечную систему как пуля....

Эксперты бьют тревогу: Таяние ледников разбудит вулканы по всему миру
Цепная реакция извержений прокатится от Антарктиды до Камчатки. Выбросы пепла и CO2 сделают климат невыносимым....

Воскрешение монстра: Colossal возвращает к жизни 3,6-метровую птицу-убийцу моа!
Сможет ли 230-килограммовый гигант из Новой Зеландии выжить среди людей?...

Череп ребенка-«пришельца» из Аргентины оказался вполне земным
Эксперты рассказали в подробностях, как могла появиться «инопланетная» форма головы....

«Богатые тоже плачут»: США открыли «новую эру энергетики» — 800 часов в год без света!
Штаты хвастались ИИ, а электросети «горят» даже от чат-ботов… Россия тем временем запускает термояд....