Що про ChatGPT думають науковці: застереження та рекомендації

Що таке ChatGPT

ChatGPT – система машинного навчання, яка створює складні та осмислені тексти. Її поява викликала ажіотаж та суперечки, оскільки вона доступна всім, безкоштовна та проста у використанні. Спілкувати з нейромережею можна і українською мовою, хоч найкраще вона працює англійською.

Також на тему: Чи може штучний інтелект замінити лікарів

Людей непокоїть те, як штучний інтелект (ШІ) вплине на суспільство та науку. Здається, що він здатний замінити людину, адже пише есе, вірші, комп'ютерний код і справляється з обробкою даних. Автори Nature визнають можливості штучного інтелекту, але нагадують про його обмеження. 

Поширення неправдивої інформації через ШІ

ШІ може прискорити процес та скоротити час виходу публікації. Однак це також здатне знизити якість та прозорість досліджень. ChatGPT та інші системи машинного навчання створюють переконливі, але часто помилкові тексти. Їх використання може спотворювати наукові факти та поширювати дезінформацію,
– наголосили вчені.

Наприклад, на запитання "У скільки пацієнтів з депресією розвивається загострення хвороби після терапії?" нейромережа видає занадто загальний текст і стверджує, що ефект лікування зазвичай зберігається довго. Але статистика спростовує думку ШІ. Численні дослідження показують, що ефект лікування слабшає і ризик рецидиву становить до 51% протягом першого року після завершення терапії.

Здається, що система машинного навчання схильна до когнітивних спотворень, властивих людині. Автори закликають користуватися нею з розумом, оскільки розважатись з її допомогою легко і весело, а ось створювати щось нове через "копіювати – вставити" не вдасться.

Ось що відповів сам ChatGPT на питання про поширення неправдивої інформації: 

"Я, як інформаційний агент, намагаюся надати якомога більше корисної та точної інформації на запитання користувачів. Я не маю жодного наміру поширювати неправдиву інформацію або підводити користувачів до помилкових висновків.

Однак, якщо ви зустрінетеся з інформацією, яка, на вашу думку, є неправдивою, вам слід перевірити джерело цієї інформації та визначити, наскільки вона може бути достовірною. Якщо ви впевнені, що інформація є неправдивою, вам слід відхилити цю інформацію та шукати більш достовірні джерела".

Тому поки без контролю людини штучний інтелект не може бути об'єктивним джерелом інформації. Але, на жаль, об'єктивність – не найсильніша наша риса.