Корпоративная AI-платформа с управляемыми знаниями и on-prem архитектурой на сервере компании

Почему компаниям нужна собственная AI-инфраструктура

Большинство современных AI-сервисов работают как облачные платформы. Это удобно для личного использования, но плохо подходит для корпоративной среды.

Когда сотрудники используют внешние сервисы, компания теряет контроль над:

• корпоративными документами

• внутренними знаниями

• историей запросов сотрудников.

Кроме того, становится невозможным ограничить доступ сотрудников к чувствительной информации.

Поэтому всё больше компаний начинают строить собственную инфраструктуру работы с нейросетями.

Архитектура корпоративной AI-платформы

В основе системы лежит архитектура, объединяющая несколько ключевых компонентов:

• backend-платформа для работы пользователей

• векторная база знаний (Qdrant)

• система хранения документов

• интеграция с локальными и внешними моделями

• модуль интеллектуального веб-поиска.

Такой подход позволяет объединить работу с корпоративными знаниями, внешними источниками информации и нейросетями в единой системе.

Разграничение доступа к знаниям

Одной из ключевых задач проекта стало создание системы контроля доступа к знаниям.

Документы компании распределяются по уровням и группам доступа. Сотрудник может работать только с теми документами, которые разрешены для его группы.

Например:

• секретарь может видеть только административные документы

• маркетинг — материалы для продвижения

• финансовый отдел — финансовую информацию.

Это реализовано на уровне системы хранения знаний, поэтому модель физически не получает доступ к данным, которые ей нельзя использовать.

Интеллектуальный поиск информации

Система включает собственный модуль веб-поиска.

Запрос пользователя анализируется, после чего формируется поисковый запрос к внешним поисковым API. Полученные результаты проходят фильтрацию по релевантности, после чего наиболее подходящие источники используются для генерации ответа.

В результате пользователь получает ответ, основанный на проверенных источниках, с указанием ссылок на них. По сути - собственный Perplexity внутри компании, без подписки.

Командная работа вокруг AI

Платформа изначально проектировалась как инструмент для командной работы.

Пользователи могут:

• делиться диалогами

• продолжать диалог коллеги в формате fork- копия исходного со всем контекстом

• обсуждать результаты в групповых чатах

• использовать документы команды в качестве источников знаний.

Таким образом нейросети становятся частью коллективной работы компании.

В результате проекта была создана корпоративная AI-платформа, которая позволяет компаниям безопасно использовать нейросети внутри своей инфраструктуры.

Система объединяет:

• работу с нейросетями

• управление корпоративными знаниями

• разграничение доступа сотрудников

• командную работу вокруг AI.

Платформа уже используется внутри Progressive OS как основной инструмент работы с нейросетями.

Исходная задача:

Компания искала способ системно использовать нейросети в работе сотрудников, но при этом решить несколько принципиальных проблем.

Во-первых, данные компании не должны покидать корпоративный контур. Во-вторых, разные сотрудники должны иметь доступ к разным наборам знаний. В-третьих, нейросети должны работать не только как чат-интерфейс, а как инструмент работы с корпоративными документами и внешними источниками информации.

Стало понятно, что существующие SaaS-решения не позволяют реализовать такой уровень контроля и интеграции.

Поэтому было принято решение разработать собственную корпоративную AI-платформу , разворачиваемую внутри инфраструктуры компании.

Какие возможности мы увидели в задаче:

• Создать корпоративную AI-инфраструктуру , а не просто интерфейс к моделям.

• Реализовать многоуровневую систему знаний (RAG) для работы с документами.

• Построить жёсткое разграничение доступа к знаниям между отделами .

• Интегрировать интеллектуальный веб-поиск , позволяющий получать подтверждённые ответы.

• Сделать систему командной работы вокруг AI , а не инструмент одного пользователя.

• Создать решение, которое может работать внутри инфраструктуры - на сервере компании (on-prem).

Нужно было ответить на вопросы:

• Как использовать нейросети в компании, не передавая данные внешним сервисам?

• Как разделить доступ к корпоративным знаниям между отделами?

• Как объединить локальные модели и внешние AI-API в одной системе?

• Как обеспечить качественный поиск информации с подтверждением источников?

• Как сделать AI инструментом командной работы, а не личным помощником одного сотрудника?

Что мы сделали:

Мы создали систему Progressive.AiCreate Studio — платформу, которая объединяет работу с нейросетями, корпоративными знаниями и командными процессами в едином интерфейсе.

Система поддерживает несколько уровней документов: корпоративные знания, проектные документы пользователей и документы текущего запроса. Это позволяет гибко использовать знания компании, не смешивая разные уровни доступа.

Доступ к документам определяется на уровне системы, а не на уровне промптов. Например, секретарь может работать только с документами своего отдела, в то время как финансовый директор имеет доступ к финансовым данным компании.

Система анализирует запрос пользователя, формирует поисковый запрос, собирает релевантные источники и строит ответ на основе найденных документов, указывая ссылки на источники.

В платформе реализованы:

• групповые чаты

• личные диалоги сотрудников

• возможность делиться диалогами

• fork диалогов для дальнейшей работы.

Платформа может работать даже на небольших серверах и не требует сложной инфраструктуры. Это позволяет внедрять систему внутри компаний без масштабных затрат на инфраструктуру.