Автор: Понравилась идея искусственного интеллекта, но хотелось бы использовать ее, не доверяя какому-то крупному серверу? Вы можете запускать большие языковые модели локально, что дает вам что-то вроде ChatGPT, которое работает полностью в автономном режиме.
Jan — это бесплатное приложение с открытым исходным кодом, которое позволяет легко загрузить несколько больших языковых моделей и начать общаться с ними в чате. Существуют простые установщики для Windows, macOS и Linux. Это не идеально. Модели не обязательно так хороши, как последние модели OpenAI или Google, и в зависимости от мощности вашего компьютера получение результатов может занять некоторое время. С другой стороны, вы можете использовать эту технологию, не имея беспокоиться о проблемах конфиденциальности и безопасности, связанных с использованием онлайн-сервиса искусственного интеллекта.
Автор: Джастин Пот
После установки Jan вам нужно будет выбрать модель— если вы не знаете какую, я бы начал с Mistral, наверху списка— вы всегда можете попробовать что-то еще позже, если вам не понравятся результаты. Как только модель загрузится, вы сможете начать общение.
Если хотите, вы можете предоставить несколько общих инструкций для бота на правой панели – по умолчанию используется фраза «вы полезный помощник», но вы можете изменить ее на любую другую, чтобы получить немного больше контекста. После этого вы можете начать использовать сервис так же, как ChatGPT или Google Gemini. Я пытался попросить краткое изложение моей недавней статьи; оно проделало достойную работу.
Автор: Джастин Пот
Опять же, если вам не нравятся результаты или вы считаете, что получение результатов занимает слишком много времени, попробуйте несколько разных моделей. Все они бесплатны и оптимизированы для разных целей: некоторые из них, например, специально предназначены для вопросов кодирования, а некоторые оптимизированы для работы на компьютерах без большой мощности процессора. Вопрос в том, чтобы найти то, что лучше всего подходит именно вам.
И есть еще одна интересная особенность: если приложение запущено, оно также может работать как API, эквивалентный OpenAI. Если вы не знаете, что это значит, не волнуйтесь – это очень необычная вещь. Вкратце, однако, это означает, что вы можете использовать Jan в приложениях, которым в противном случае потребовалась бы платная подписка ChatGPT – просто включите функцию API в настройках и укажите другим приложениям локальный IP-адрес и номер порта вместо OpenAI.
lifehacker.com
