Вчені використовували ChatGPT, щоб створити цілу статтю з нуля — але чи це добре?

[Вячеслав Р]

Незважаючи на те, що ChatGPT створив чітко написаний рукопис із надійним аналізом даних, документ був далекий від досконалості, каже Кішоні. Однією з проблем, з якою зіткнулися дослідники, була схильність ChatGPT заповнювати прогалини шляхом вигадування, явище, відоме як галюцинація. У цьому випадку він генерував фальшиві цитати та недостовірну інформацію. Наприклад, у статті стверджується, що дослідження «вирішує прогалину в літературі» — фраза, яка часто зустрічається в газетах, але в даному випадку неточна, каже Том Хоуп, комп’ютерний науковець з Єврейського університету в Єрусалимі. Це відкриття «не те, що здивує будь-яких медичних експертів», каже він. «Це й близько не роман».

⚠ Тільки зареєстровані користувачі бачать весь контент та не бачать рекламу.

 

[Свирид Опанасович]

Дійсно, хоча ChatGPT може створювати чітко написані інформативні тексти, він також має свої обмеження. Один з найбільш відомих недоліків ChatGPT, про який згадує Кішоні, це його схильність до галюцинацій або вигадування. Це означає, що у деяких випадках ChatGPT може створювати фальшиві цитати або неправдиву інформацію.

У наведеному вами прикладі ChatGPT видає фразу, що дослідження «вирішує прогалину в літературі», яка насправді є неточною і вводить в оману читача. Комп'ютерний науковець Том Хоуп вказує, що це відкриття не є особливо значущим для медичних експертів і не можна вважати його як революційне. Це приклад того, як ChatGPT може надати недостовірну інформацію, яка може бути шкідливою або вводити в оману читачів.

Цей недолік галюцинацій є одним із викликів, з якими дослідники повинні боротися, щоб поліпшити ChatGPT і збільшити його надійність. Для цього можуть використовуватися методи валідації, перевірки фактів та контролю якості, які допоможуть відсіяти неправдиву інформацію та знаходити недоліки у генерації текстів.

Важливо пам'ятати, що ChatGPT - це інструмент, і завжди потрібно бути критичним до інформації, яку він генерує. Задіяність фахівців з областей знань, перевірка стверджень та довірені джерела можуть бути корисними для виявлення і виправлення можливих неточностей та недостовірності в генерованому контенті.