Что о ChatGPT думают ученые: оговорки и рекомендации

Что такое ChatGPT

ChatGPT – система машинного обучения, создающая сложные и осмысленные тексты. Ее появление вызвало ажиотаж и споры, поскольку оно доступно всем, бесплатно и просто в использовании. Общаться с нейросетью можно и на украинском языке, хотя лучше он работает на английском.

Также на тему: Может ли искусственный интеллект заменить врачей

Людей беспокоит, как искусственный интеллект (ИИ) повлияет на общество и науку. Кажется, он способен заменить человека, ведь пишет эссе, стихи, компьютерный код и справляется с обработкой данных. Авторы Nature признают возможности искусственного интеллекта, но напоминают о его ограничениях.

Распространение ложной информации через ИИ

ИИ может ускорить процесс и сократить время выхода публикации. Однако это также способно снизить качество и прозрачность исследований. ChatGPT и другие системы машинного обучения создают убедительные, но часто ошибочные тексты. Их использование может искажать научные факты и распространять дезинформацию,
– подчеркнули ученые.

Например, на вопрос "Во сколько пациентов с депрессией развивается обострение болезни после терапии?" нейросеть издает слишком общий текст и утверждает, что эффект лечения обычно сохраняется долго. Но статистика опровергает мнение ИИ. Многочисленные исследования показывают, что эффект лечения ослабевает и риск рецидива составляет до 51% в течение первого года после завершения терапии.

Кажется, что система машинного обучения подвержена когнитивным искажениям, присущим человеку. Авторы призывают пользоваться ею с умом, поскольку развлекаться с ее помощью легко и весело, а вот создавать что-нибудь новое из-за "копировать – вставить" не удастся.

Вот что ответил сам ChatGPT на вопрос о распространении ложной информации:

"Я, как информационный агент, пытаюсь предоставить как можно больше полезной и точной информации на вопросы пользователей. Я не намерен распространять ложную информацию или подводить пользователей к ошибочным выводам."

Однако, если вы встретитесь с информацией, которая, по вашему мнению, неправдива, вам следует проверить источник этой информации и определить, насколько она может быть достоверной. Если вы уверены, что информация неверна, вам следует отклонить эту информацию и искать более достоверные источники».

Потому пока без контроля человека искусственный интеллект не может быть объективным источником информации. Но, к сожалению, объективность – не самая сильная наша черта.