Забудьте про ChatGPT: чому дослідники тепер запускають невеликі ШІ на своїх ноутбуках

[Вячеслав Р]

За останні пару років чат-боти, засновані на LLM, завоювали похвалу за їхню здатність писати вірші або брати участь у розмовах. Деякі LLM мають сотні мільярдів параметрів — чим більше параметрів, тим більша складність — і доступ до них можливий лише онлайн. Але останнім часом розквітли ще дві тенденції. По-перше, організації створюють «відкриті ваги» версії LLM, у яких ваги та зміщення, що використовуються для навчання моделі, є загальнодоступними, щоб користувачі могли завантажити та запустити їх локально, якщо вони мають обчислювальну потужність. По-друге, технологічні фірми створюють зменшені версії, які можна запускати на споживчому апаратному забезпеченні — і які конкурують за продуктивністю зі старішими, більшими моделями.

Дослідники можуть використовувати такі інструменти, щоб заощадити гроші, захистити конфіденційність пацієнтів або корпорацій або забезпечити відтворюваність. Торп, який живе в Оксфорді, Великобританія, і працює в Європейському інституті біоінформатики Європейської лабораторії молекулярної біології в Хінкстоні, Великобританія, є лише одним із багатьох дослідників, які досліджують можливості інструментів. Ця тенденція, швидше за все, зростатиме, каже Торп. У міру того, як комп’ютери стають швидшими, а моделі – ефективнішими, люди все частіше матимуть на своїх ноутбуках або мобільних пристроях штучний інтелект для всіх потреб, окрім найбільш інтенсивних. У вчених нарешті будуть під рукою помічники штучного інтелекту — але власне алгоритми, а не лише віддалений доступ до них.

⚠ Тільки зареєстровані користувачі бачать весь контент та не бачать рекламу.