GPU / LOCAL INFERENCE

Маркетплейс GPU
и инференса.

Найдите мощности для своих моделей или предложите свои другим.

Готовые модели через API и аренда GPU по времени. Поможем найти мощности или подключить ваше оборудование.

Запрос к моделиDEMO
Запросы к репликам одной моделиДобавьте запрос и нажмите на сервер, чтобы включить или выключить реплику. Это демонстрационная схема. ваш сервисrequest APIApikley replica-01готоваreplica-02готоваreplica-03выключена
Очередь 0В работе 0Ответов 0

Нажмите на реплику, чтобы включить или отключить её.

ТРИ ФОРМАТА

Нужен ответ, ресурс или свой контур?

01 / API МОДЕЛИ

Вызывайте модель

Готовая модель за API. Подходит для ассистентов, обработки документов, изображений и аудио. Согласуем модель, нагрузку и единицу оплаты: токены, запросы или результат задачи.

Попробовать схему API
02 / GPU ПО ВРЕМЕНИ

Запускайте свою задачу

GPU под ваш контейнер, модель и окружение. Для экспериментов, пакетной обработки и дообучения. Учитываем время аренды, хранение и доступность оборудования.

Выбрать окно на примере
03 / ВАШ GPU-ПАРК

Используйте свободное

Организуем внутренний инференс на ваших серверах. Если хотите предлагать излишки мощности другим — отдельно определим, что доступно, на какой срок и с какой изоляцией.

Распределить GPU на схеме

РЕСУРС В НУЖНОЕ ВРЕМЯ

Не вся GPU нужна навсегда.

Арендуйте GPU на время обработки файлов, эксперимента или дообучения модели.

Выберите свободное окно на одной или двух GPU.

Обсудить аренду GPU
Окно для задачиDEMO
Длительность
Видеокарты
Выбор времени на GPUДве GPU и четыре получасовых окна. Серые клетки заняты своими задачами, зелёные свободны. Выберите подходящее окно. 12:0012:3013:0013:30 0102
ЗанятоСвободноВаша задача

Выберите свободное окно или нажмите «Подобрать окно».

ДЛЯ ВЛАДЕЛЬЦЕВ МОЩНОСТЕЙ

GPU простаивает?
Дайте ей задачу.

Можно предложить готовый API вашей модели или свободное время оборудования. Оборудование остаётся у вас; доступ и условия подключения согласуем заранее.

Предложить мощности
Ваш GPU-паркDEMO
Свои задачи и свободные GPUПеренесите свободные видеокарты между своими задачами и предложением мощности. Оборудование остаётся у владельца. Занятую карту предложить нельзя. Только для себяПредложить мощности gpu-01свои задачи gpu-02свободна gpu-03свободна gpu-04в предложении
Для себя 3В предложении 1

Перетащите свободную GPU или нажмите на неё.

КОМУ ПОДОЙДЁТ

По обе стороны запроса.

Командам, которым нужны GPU

  • AI-продукты и интеграторы. Модели для приложений, агентов и внутренних сервисов.
  • Медиа и обработка данных. Партии записей, документов, изображений и видео.
  • ML-команды и исследования. Свои модели, контейнеры, эксперименты и дообучение.

Тем, у кого есть мощности

  • Дата-центры и хостеры. Свободные GPU-серверы и периоды доступности.
  • Компании с GPU-парком. Излишки сверх своей нагрузки или готовый сервис модели.
  • Частные владельцы. Оборудование со стабильной сетью, питанием и понятным расписанием.

ПЕРЕД ПОДКЛЮЧЕНИЕМ

Сначала задача и проверка.

  1. 01

    Собираем требования

    Модель или контейнер, GPU и VRAM, объём работы, сроки и размещение данных.

  2. 02

    Проверяем на нагрузке

    Совместимость, скорость, сеть и доступность. Для владельца — что действительно свободно.

  3. 03

    Согласуем условия

    Доступ, изоляцию, стоимость и учёт потребления. Затем — подключение и тестовый запуск.

Коротко о важном

Что такое локальный инференс?

Запуск модели на выбранном оборудовании: на сервере поставщика или внутри вашей компании. Расположение данных, доступ к модели и требования к среде определяем под задачу.

Чем API отличается от аренды GPU?

В API вы отправляете запрос уже запущенной модели. При аренде GPU вы получаете вычислительный ресурс и управляете своим окружением. Единицы оплаты и состав услуг разные — согласуем их до запуска.

Можно собрать память разных видеокарт в одну большую GPU?

Независимые серверы не превращаются в одну видеокарту. Для большой модели нужен отдельный многокарточный или многосерверный запуск с подходящей сетью. А реплики модели позволяют параллельно обрабатывать разные запросы.

Можно оставить данные внутри компании?

Обсудим запуск модели рядом с данными, границы доступа и выделенный контур. Подключение внешней нагрузки к вашему оборудованию — отдельный сценарий, который требует согласования и изоляции.

Сколько стоит и какой доход получит владелец?

Цена зависит от оборудования, модели, доступности, размещения и нагрузки. Условия аренды, расчётов с владельцем и договора согласуем индивидуально.

НАЧНЁМ С ЗАДАЧИ

На какой вы стороне?

Добавьте параметры и отправьте нам заявку.

contact@apikley.ru

Также помогаем с серверами и облачной инфраструктурой, аудитом ИБ и интеграцией API.