The OpenNET Project / Index page

[ новости /+++ | форум | wiki | теги | ]

Опубликован OpenChatKit, инструментарий для создания чатботов

13.03.2023 10:28

Представлен открытый инструментарий OpenChatKit, нацеленный на упрощение создания чатботов для специализированного и общего применения. Система адаптирована для выполнения таких задач, как ответы на вопросы, ведение многоэтапных диалогов, обобщение, извлечение информации, классификация текста. Код написан на языке Python и распространяется под лицензией Apache 2.0. В состав проекта входит готовая модель, код для тренировки своей модели, утилиты для тестирования результатов работы модели, средства для дополнения модели контекстом из внешнего индекса и адаптации базовой модели к решению собственных задач.

В качестве основы бота предлагается базовая модель машинного обучения (GPT-NeoXT-Chat-Base-20B), построенная при помощи языковой модели, охватывающей около 20 миллиардов параметров и оптимизированная для разговорного общения. Для обучения модели использованы данные, полученные из коллекций проектов LAION, Together и Ontocord.ai.

Для расширения имеющейся базы знаний предлагается система, способная извлекать дополнительную информацию из внешних репозиториев, API и других источников. Например, возможна актуализация информации с использованием данных из Wikipedia и новостных лент. Дополнительно доступна модель для модерирования, натренированная с использованием 6 миллиардов параметров, основанная на модели GPT-JT и предназначенная для фильтрации неприемлемых вопросов или ограничения дискуссий в рамках определённых тем.

Отдельно можно отметить проект ChatLLaMA, предлагающий библиотеку для создания интеллектуальных помощников, похожих на ChatGPT. Проект развивается с оглядкой на возможность выполнения на собственном оборудовании и создания персонализированных решений, рассчитанных на охват узких областей знаний (например, медицина, юриспруденция, игры, научные исследования и т.п.). Код ChatLLaMA поставляется под лицензией GPLv3.

Проект поддерживает использование моделей на базе архитектуры LLaMA (Large Language Model Meta AI), предложенной компанией Meta. Полная модель LLaMA охватывает 65 миллиардов параметров, но для ChatLLaMA рекомендуется использовать варианты с 7 и 13 миллиардами параметров или модели GPTJ (6 млрд), GPTNeoX (1.3 млрд), 20BOPT (13 млрд), BLOOM (7.1 млрд) и Galactica (6.7 млрд). Изначально модели LLaMA поставляются только исследователям по специальному запросу, но так как для доставки данных использовались торренты, энтузиасты подготовили скрипт, позволяющий загрузить модель любому желающему.

  1. Главная ссылка к новости (https://www.together.xyz/blog/...)
  2. OpenNews: FlexGen - движок для запуска AI-ботов, похожих на ChatGPT, на системах с одним GPU
  3. OpenNews: Проект Open-Assistant развивает открытый AI-бот, похожий на ChatGPT
  4. OpenNews: Amazon опубликовал набор данных для понимания речи на 51 языке
  5. OpenNews: Facebook опубликовал модель для машинного перевода, поддерживающую 200 языков
  6. OpenNews: Открыт код системы распознавания и перевода речи Whisper
Лицензия: CC BY 3.0
Короткая ссылка: https://opennet.ru/58786-chat
Ключевые слова: chat, bot, ai, chatgpt
При перепечатке указание ссылки на opennet.ru обязательно


Обсуждение (58) Ajax | 1 уровень | Линейный | +/- | Раскрыть всё | RSS
  • 1.1, Аноним (1), 14:28, 13/03/2023 Скрыто ботом-модератором [﹢﹢﹢] [ · · · ]     [к модератору]
  • +/
     

     ....ответы скрыты (2)

  • 1.7, Аноним (7), 15:05, 13/03/2023 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Сервисы типа Ажура, Амазона предоставляют этот же функционал за деньжищи, а тут все бесплатно. Норм.  
     
  • 1.8, Ананоним (?), 15:07, 13/03/2023 [ответить] [﹢﹢﹢] [ · · · ]  
  • +22 +/
    Меня эти чатботы просто бесят. Если хочешь вызвать отвращение у посетителя сайта, сделау на сайте чатбота вместо FAQ.
     
     
  • 2.11, Вы забыли заполнить поле Name (?), 15:43, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +4 +/
    Всегда сразу прошу связать с оператором
     
     
  • 3.21, 1 (??), 17:50, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +3 +/
    У яндексовского чатбота такой функции нет. Есть только кнопка оплатить поддержку PRO.
     
     
  • 4.33, Вы забыли заполнить поле Name (?), 20:02, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    Удобно (для яндекса)
     
  • 4.38, Kuromi (ok), 20:27, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Яндексовские боты это вообще жесть. На днях предложил Кинпоиск попробовать Амедиатеку (бесплатно Х дней а ПОТОМ деньги). Нажал "Ну ОК" - тут же прилетает пуш от банка что бабки списали. Не але, пишутв их чат-бот-поддержку, а бот в ответ на "отмена" и "подписка" тупо дает инструкцию как отменить продление подписки и все.
    Пришлось достукиваться окольными путями.
     
     
  • 5.69, Фиш (?), 15:02, 14/03/2023 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Крючки с наживкой это вообще жесть. На днях плаваю в пруду, вижу червяк на леске. Думаю "Ну ОК" и заглатываю - тут же резкая боль и вытаскивают из воды. Не але, начинаю трепыхатся, а рыбак подтаскивает меня все ближе к берегу.
    Пришлось сердито скворчать на сковородке с разогретым маслом.
     
     
  • 6.87, Kuromi (ok), 19:05, 15/03/2023 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Крючки с наживкой это вообще жесть. На днях плаваю в пруду, вижу
    > червяк на леске. Думаю "Ну ОК" и заглатываю - тут же
    > резкая боль и вытаскивают из воды. Не але, начинаю трепыхатся, а
    > рыбак подтаскивает меня все ближе к берегу.
    > Пришлось сердито скворчать на сковородке с разогретым маслом.

    Ну я тоже потом себя идиотом назвал, да. Но суть в том что если КП говорит Х дней бесплатно, то пользователь ожидает что у него будет халявный период. Рассчет на то, что юзвер пожмет плечами и смирится?

    П.С. Как ни странно поддержка таки признала косяк, не ожидал.

     
  • 6.91, Аноним (91), 22:42, 15/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    Слова "оферта", "защита прав потребителей" - пустой звук?
     
  • 4.59, Аномимик (ok), 09:25, 14/03/2023 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Платная поддержка у них не лучше чатбота...
     
  • 3.31, Аноним (31), 19:53, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +3 +/
    У моего банка такой функции нет. Только бот или в отделение на другой конец города. Докатились.
     
     
  • 4.34, Вы забыли заполнить поле Name (?), 20:02, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    Повод отказаться от банка
     
     
  • 5.40, Аноним (40), 20:52, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    Этим банком был Сбербанк.
    Не отвернёшься от него, в стране-то, где пытаются всё поставить на рельсы плановой экономики.
     
     
  • 6.42, Аноним (42), 20:57, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    >>Этим банком был Сбербанк.

    Вот ни разу, сэр. Бот переспрашивает - да, соединяет долго - да, но соединяет.
    Лет уже как 5 точно, а то и больше.

     
  • 4.88, Kuromi (ok), 19:06, 15/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    > У моего банка такой функции нет. Только бот или в отделение на
    > другой конец города. Докатились.

    Как показывает опыт в отдлении тоже редко что могут полезного сказать. Если проблема занудная, постараются слить любой ценой.
    Самая ржака это когда суппорт шлет в отдление, а отделение в суппорт.

     
  • 2.17, Аноним (17), 17:08, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Ты смотри со стороны провайдера услуг держать людей в саппорте это расходы, а еще платить им за работу в ночные чвасы. А тут прогу поставил и она нахер шлет клиента круглосуточно с его проблемами
     
     
  • 3.19, Константавр (ok), 17:11, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +1 +/
    А сапорту ничего и не надо отвечать, просто "А Вы пробовали включить компьютер?". Но надо иметь железные нервы, чтобы не сдаться и не признать, что проблемав продукте и надо чинить :) Тут чатбот действительно лучше :)
     
  • 3.53, Аноним (53), 22:51, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Тогда можно ещё и на чатботе сэкономить. Результат будет тот же.
     

  • 1.9, Аноним (9), 15:15, 13/03/2023 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    Астрологи объявили год чат-ботов. Количество проектов с цифровыми говорилками увеличилось в тысячи раз.
     
     
  • 2.12, Вы забыли заполнить поле Name (?), 15:43, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    Тьюринг вертится в гробу
     
     
  • 3.62, Аноним (62), 09:38, 14/03/2023 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Тьюринг проснулся однажды и не понял, Тьюринг ли он, или машина, которую придумал Тьюринг. (анекдот)
     
     
  • 4.86, Вы забыли заполнить поле Name (?), 20:15, 14/03/2023 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Тьюринг проснулся однажды и не понял, Тьюринг ли он, или машина, которую
    > придумал Тьюринг. (анекдот)

    Обе (оба) дырявые получились (не анекдот).

     
  • 2.30, Аноним (31), 19:52, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Ну хз, с chatgpt я упростил свою жизнь как кодера процентов на 90.
     
     
  • 3.54, Аноним (54), 23:40, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > chatgpt я упростил свою жизнь как кодера процентов на 90.

    Очень скоро и работодатель упростит свою жизнь на десяток-другой таких.

     
     
  • 4.55, Аноним (55), 04:38, 14/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    К счастью я сам себе работодатель.
     
     
  • 5.70, Аноним (70), 15:05, 14/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    И конкурентов наверное нет, которые тоже так могут
    >упростил свою жизнь как кодера процентов на 90
     
  • 5.95, Аноним (91), 22:48, 15/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    Вяжешь шапочки на продажу или фрилансер?
     

  • 1.14, анон (?), 16:39, 13/03/2023 [ответить] [﹢﹢﹢] [ · · · ]  
  • +4 +/
    Обожаю прогресс, сначала не могут сделать нормальный поиск по сайту или базе, теперь делают чатботы, которые не понимают, что тебе надо найти на сайте или в базе. Найс, миллионы тонн расплавленных ледников при обучении чатботов ставят класс, лойс, подписка.
     
     
  • 2.15, Аноним (3), 17:03, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • –1 +/
    это буквально первый релиз проекта, а ты уже во всех подробностях рассказал, какие у него проблемы. Нойс.
     
     
  • 3.96, Аноним (91), 22:50, 15/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    Умение предвидеть проблемы и грабли - свойство интеллекта
     
  • 2.18, Аноним (17), 17:10, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    Год за годом кто-то поднимает одни и теже вопросы... Там еще с Тьюринга все началось и все не угомоняться... я только одно не пойму ну сделают они примерно среднего Васяна с тремя извилинами или Марусю (совпадение случайно) и что дальше все равно эту конструкцию ни напрячь принести подать и не трахнуть... чего с нее толку... свет на кухне включить?
     
     
  • 3.22, 1 (??), 17:54, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    Вс для бузинеса ... Заменять 5 мясных Маш на одну, и будет профит. А то уже Маши в сельских колцентрах стали дороги.
     
     
  • 4.23, Вы забыли заполнить поле Name (?), 18:46, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > А то уже Маши в сельских колцентрах стали дороги.

    Они теперь вебкам модели.

     
     
  • 5.32, Аноним (31), 19:56, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    Все раскрученные сервисы отключили РФ, как и платёжные системы. А в самой РФ в силу нищеты и менталитета никто не будет платить за то что можно посмотреть бесплатно. Сестра жены работала на вебках, теперь пошла работать на почту после санкций.
     
     
  • 6.35, Вы забыли заполнить поле Name (?), 20:04, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Дык они работают на зарубежную аудиторию тоже
     
  • 6.64, Аноним (62), 09:50, 14/03/2023 [^] [^^] [^^^] [ответить]  
  • –2 +/
    Я не понял, вы с женой на сестру бесплатно смотрели?
     
     
  • 7.103, rvs2016 (ok), 01:26, 16/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    >Я не понял, вы с женой на сестру бесплатно смотрели?

    Платно! :о)

     
  • 2.89, Kuromi (ok), 19:07, 15/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    > Обожаю прогресс, сначала не могут сделать нормальный поиск по сайту или базе,
    > теперь делают чатботы, которые не понимают, что тебе надо найти на
    > сайте или в базе. Найс, миллионы тонн расплавленных ледников при обучении
    > чатботов ставят класс, лойс, подписка.

    Напомнили мне сайт HP. Поиск вообще никогда ничего не находил, проще было Гуглом по сайту искать.

     

  • 1.16, Аноним (16), 17:04, 13/03/2023 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    всё скачал, запустил бота, а он съел мои скромные 64 гига памяти и продолжил кушать своп
    ну, не знаю, пойду в магаз за памятью, надеюсь, 128 будет норм
     
     
  • 2.51, Аноним (51), 22:50, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    Видеокарту лучше купи, а лучше две чтобы вместе было 48 гигов видеопамяти.  
     

  • 1.27, Аноним (31), 19:48, 13/03/2023 [ответить] [﹢﹢﹢] [ · · · ]  
  • +3 +/
    Помните бота "киса" из хоттабыча? А я помню таких, еще года 3-4 назад в телеге были только такие. Сейчас то реального человека не отличить от ботов.
     
     
  • 2.41, Аноним (40), 20:53, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +4 +/
    Это скорее говорит об упадке культуры речи, нежели о прогрессе развития ботов.
     
     
  • 3.48, Аноним (48), 22:09, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • –2 +/
    Прогресс такой, что chatgpt теперь делает 90% моей работы как программиста. И я не преувеличиваю.
     
     
  • 4.49, Аноним (48), 22:13, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • –1 +/
    И да, делает не просто за меня, а помогает "гуглить" то что раньше гуглилось часами по крупицам. И я не деградирую, а набираюсь знаний, спрашиваю то что раньше негде было спросить и получаю вразумительные ответы, как по стилю кода, так и по его структуре
     
     
  • 5.50, Аноним (48), 22:15, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    Если раньше от слова "самообучение" мне было дурно, то теперь это увлекательный интересный процесс. И я не преувеличиваю.
     
     
  • 6.57, Аноним (57), 06:35, 14/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    Он ведь часто сам придумывает несуществующие "факты".
     
     
  • 7.61, Аномимик (ok), 09:31, 14/03/2023 [^] [^^] [^^^] [ответить]  
  • +1 +/
    На самом деле страшно представить, что бот там порекомендует. Уж если пытаться загуглить проблему более сложную чем что-нибудь банальное, то или не найдешь или найдешь такую дичь, что волосы дыбом встают - аж сидеть не удобно. И вот из таких источников (типа Stackoverflow) и будут браться ответы ботом, а там зачастую или дичь полная или сильно устаревшая информация.
     
     
  • 8.65, Аноним (62), 10:04, 14/03/2023 [^] [^^] [^^^] [ответить]  
  • –1 +/
    После этого Голем ожил, в сопровождении своих создателей отправился в город и пр... текст свёрнут, показать
     
  • 8.102, Аноним (91), 23:36, 15/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    А разговоров-то было ... текст свёрнут, показать
     
  • 5.99, Аноним (91), 22:59, 15/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    > спрашиваю то что раньше негде было спросить и получаю вразумительные ответы

    Как это "негде"? Про стаковерфлоу/куора не слышал?


    > chatgpt теперь делает 90% моей работы как программиста.

    Это значит, что ты либо совсем хреновый спец, либо еще зеленый вкатыш. Такие - да, рискуют задницей

     
  • 2.44, kusb (?), 21:08, 13/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    Реальные люди стали как боты?
     

  • 1.47, Аноним (31), 22:06, 13/03/2023 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Это даже хорошо все эти ИИ. Значит скоро ручная работа будет цениться вдвойне.
     
  • 1.60, Аноним (60), 09:26, 14/03/2023 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Тренды Github уже неделю завалены репами про блаблаблаGPT. Истерия какая-то. Непонятно, это всё привязки к онлайн сервису или наконец полностью локальный софт появился?
     
     
  • 2.63, Аноним (62), 09:49, 14/03/2023 [^] [^^] [^^^] [ответить]  
  • +/
    Спасают стейблкоины.
     

  • 1.66, Аноним (66), 10:27, 14/03/2023 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Многоэтажные маты пока не понимает.
     

     Добавить комментарий
    Имя:
    E-Mail:
    Текст:



    Партнёры:
    PostgresPro
    Inferno Solutions
    Hosting by Hoster.ru
    Хостинг:

    Закладки на сайте
    Проследить за страницей
    Created 1996-2024 by Maxim Chirkov
    Добавить, Поддержать, Вебмастеру