Аналитик назвал главную опасность нейросети ChatGPT
Генеральный директор АНО «Цифровые платформы», специалист в области кибербезопасности Арсений Щельцин назвал главной опасностью нейросети ChatGPT безальтернативность ответов.
В беседе с Lenta.Ru в пятницу, 3 февраля, специалист указал на то, что с точки зрения безопасности продукт выглядит безобидным, поскольку не требует никаких особых данных от пользователя или особых подключений, как сервисы с простой регистрацией.
«Самое опасное кроется в возможностях этого продукта. Используя искусственный интеллект, чат комбинирует информацию по заданному запросу. По сути, это замена поискового запроса и, так скажем, безальтернативный вариант ответа», — отметил Щельцин.
Эксперт указал на способность нейросети генерировать разные ответы на один и тот же запрос, однако они будут очень схожи.
Он подчеркнул, что пользователи, полагаясь на эти ответы в своих программах и материалах, будут вкладывать не до конца проверенную информацию и в этом заключается главная опасность.
2 февраля американский чат-бот на базе искусственного интеллекта ChatGPT стал мировым рекордсменом по росту числа скачиваний. Как пишет НСН, за два месяца число пользователей ChatGPT достигло 100 млн. Ежедневно ChatGPT пользуется около 13 млн человек, пишет сайт aif.ru.
1 февраля стало известно, что выпускник РГГУ из Москвы Александр Жадан защитил написанный нейросетью ChatGPT диплом. По его словам, он решил воспользоваться нейросетью, чтобы совместить приятное с полезным — избавиться от научной работы и протестировать возможности новой нейросети.
В беседе с телеканалом «360» студент отметил, что часть работы все-таки сделал сам, и посоветовал смотреть на учебный процесс шире.
В целом Жадан не советует повторять его опыт, чтобы схитрить. По его словам, нейросеть открыла новые возможности для обучения, которыми нужно пользоваться с умом. Он призвал использовать критическое мышление.
В беседе с сайтом kp.ru Жадан признался, что на работу над дипломом у него ушло 23 часа.
В тот же день нейросеть ChatGPT по запросу агентства городских новостей «Москва» прокомментировала призыв ограничить доступ к чат-боту в образовательных учреждениях. Так, она признала, что AI-технологии стали частью жизни человека, но вопросы об этической допустимости использования искусственного интеллекта имеют место. Она также предложила найти баланс между принципами и открывающимися возможностями.
3 февраля проректор по учебной работе РГГУ, доктор исторических наук, профессор Павел Шкаренков рассказал телеканалу «Звезда», что к работе был приложен довольно критический отзыв научного руководителя с его замечаниями. В ходе защиты были дискуссии, «комиссия колебалась», но в конечном итоге «сама работа была оценена комиссией на оценку «удовлетворительно».
Профессор подчеркнул, что у вуза «нет механизма отзыва» этой дипломной работы.
Шкаренков добавил, что для регулирования правового поля в данной ситуации «нужны какие-то механизмы, которые бы реально отлавливали эти ситуации, которые могли бы это отследить».
Также 3 февраля и.о. ректора МГТУ имени Баумана Михаил Гордин прокомментировал использование нейросетей студентами. По его словам, дипломный проект в техническом университете включает не только текст, но и большое количество расчетов, выполняемых с использованием специального инженерного программного обеспечения. Иными словами, результатом проекта является техническая документация в виде чертежей, блок-схем, алгоритмов, что нейросетям пока не под силу, пишет RT.
В этот же день обозреватель «Известий» по технологиям Иван Черноусов раскрыл особенность нашумевшей нейросети ChatGPT. По его словам, ChatGPT — это нейросеть, которая анализирует запрос пользователя и выдает наиболее релевантный ответ. Эта разработка представляет опасность для бизнеса не только всех поисковиков, но и голосовых помощников.
ChatGPT — бот с искусственным интеллектом, который разработала компания OpenAI. Он умеет вести беседу, давать ответы на заданные вопросы, а также править, создавать компьютерный код и даже стихи и песни.
