Невероятные параметры искусственного интеллекта фармацевта Тьена «лучше, чем ChatGPT»

Г-н Фам Минь Хыу Тиен заявил, что чат-бот на основе искусственного интеллекта превосходит ChatGPT по параметрам. Однако многие предоставленные данные по-прежнему расплывчаты и нелогичны.

Фармацевт Тиен (Фам Минь Хыу Тиен) запустил искусственный интеллект ChatDST. Фото: DST .

14 июля фармацевт Тьен опубликовал в социальных сетях видеоролик , представляющий ряд продуктов компании. Среди них чат-бот на основе искусственного интеллекта ChatDST, который привлёк внимание заявлением ведущего о том, что он «лучше, чем ChatGPT».

Эта информация вызывает споры, поскольку г-н Тьен и стоящая за ним организация работают в индустрии косметики и развлечений и не обладают экспертными знаниями в области технологий. Между тем, ChatGPT от OpenAI, получивший сотни миллиардов долларов инвестиций и многолетнюю разработку, по-прежнему является лидером рынка по многим параметрам.

Заявление фармацевта Тьена

«Практически по всем параметрам Tien превосходит искусственный интеллект, который вы используете сейчас. Tien покажет вам, что этот параметр довольно высок на рынке», — заявил на презентации Фам Минь Хыу Тиен (фармацевт Tien).

Параметры чат-бота ChatDST предоставлены фармацевтом Тьеном. Фото: Фам Минь Хыу Тьен.

В качестве примера для сравнения он использовал объём видеопамяти. Фам Минь Хыу Тиен заявил, что созданная ими система имела вдвое больше памяти, чем ChatGPT (960 ГБ против 480 ГБ). «Кроме того, в неё заложена ваша личность, хранящаяся в данных химической и косметической промышленности, что будет очень полезно для тех, кто работает в этой сфере», — сказал г-н Тиен.

Кроме того, параметры на экране презентации также показывают, что эта платформа может генерировать 2000 токенов в секунду, а архитектура объединяет 6 моделей искусственного интеллекта для повышения производительности. ChatDST стремится к стабильной работе в течение 99,95% времени, обрабатывая контексты до 1 миллиона токенов.

В частности, разработчик также отметил, что этот чат-бот имеет неограниченную память для каждого сеанса. Фармацевт Тьен объявил, что это решение будет запущено в октябре, и его использование будет платным, стоимость составит от 20 до 300 долларов США . Однако видео с запуском уже исчезло с YouTube.

Аномальные параметры

На данный момент проект, анонсированный фармацевтом Тьеном, всё ещё находится «на бумаге», без пробной версии или подробных отчётов об исходном коде и работе. Текущая информация включает только основные параметры, а также утверждение, что ChatDST имеет более высокую конфигурацию, чем ChatGPT, и является одной из лучших на рынке.

Однако эта информация также расплывчата, во многом нелогична и невозможна.

В интервью Tri Thuc-ZNews г-н NB, магистр информационных технологий, разработчик продуктов ИИ, сказал, что в заявлении фармацевта Тьена содержится некоторая ошибочная информация.

В Техасе, США, строится фабрика искусственного интеллекта OpenAI стоимостью 40 миллиардов долларов . Фото: Data Center Dynamic.

Например, г-н Тьен рассказал, что ChatDST был разработан на платформе Llama с 403 миллиардами «нейронов». Фактически, в больших языковых моделях для описания предметных областей используются параметры, а не «нейроны». В то же время Llama была разработана компанией Meta, которая выпустила открытый исходный код, и имела только версию с 405 миллиардами параметров, а не с 403 миллиардами.

С другой стороны, нет ни одного источника, подтверждающего, что OpenAI использует сервер с 480 ГБ памяти, как заявил Фам Минь Хыу Тиен. Согласно параметрам, предоставленным Фармацевтом Тиеном, ChatDST работает на платформе из 12 видеокарт Nvidia A100 по 80 ГБ с общим объёмом видеопамяти 960 ГБ. Рыночная стоимость каждой из этих видеокарт составляет около 700 миллионов донгов, что эквивалентно инвестициям в размере 8,4 миллиарда донгов в этот компонент.

Между тем, источник издания The Information сообщил, что OpenAI владеет центром обработки данных, содержащим около 350 000 карт A100 для вывода данных. Только ChatGPT использует 290 000 графических процессоров, что в 24 167 раз превышает заявленную Pharmacist Tien конфигурацию. Кроме того, эта компания арендует серверы Microsoft Azure для снижения нагрузки при увеличении числа пользователей.

По оценкам, OpenAI должна платить около 100 000 долларов США ( 2,6 млрд донгов ) за каждый день работы. Таким образом, операционные расходы этой компании за 4 дня превышают стоимость конфигурации из 12 чипов A100, которые использовал фармацевт Тьен в ChatDST.

Для размещения рабочей модели Llama 405B требуется не менее 810 ГБ видеопамяти. Фото: HuggingFace.

По данным HuggingFace , для хранения 405 миллиардов параметров Llama требуется не менее 810 ГБ. Таким образом, на сервере г-на Тьена доступно всего 150 ГБ для обработки вычислений во время чата пользователей. Этого объёма видеопамяти достаточно для одновременного общения 1–3 пользователей. Даже при снижении точности модели для экономии ресурсов количество пользователей, обслуживающих 3–9 аккаунтов одновременно, не уменьшается.

Скорость обработки ChatDST в 2000 токенов/с также является «невообразимым» параметром для отрасли. В настоящее время ChatGPT выдаёт всего 50–100 токенов/с в зависимости от модели, что перегружает систему. Claude также выдаёт лишь 40–80 токенов/с.

Источник: https://znews.vn/thong-so-khong-tuong-tu-ai-hon-chatgpt-cua-duoc-si-tien-post1569417.html