M-Social

Жергілікті LLM шешімін офлайн орналастыру

#ии

Мақсаты:

Клиент инфрақұрылымында LLM жұмысын қамтамасыз ету
 

Механика:

  • Жасанды интеллект моделін таңдау - ашық бастапқы кодты модельдер қолданылады: Llama, Deepseek, Qwen және т.б.
  • Қажетті бағдарламалық жасақтаманы орнату және баптау, шешімді контейнерлеу тұрақты жұмыс үшін
  • Клиенттің ішкі жүйелеріне қорғалған API арқылы қосылу


Нәтиже:

  • Деректердің толық құпиялылығы (ақпарат клиент компаниясының периметрінен шықпайды)
  • Жасанды интеллект жұмысының интернет байланысы мен сыртқы сервистерден тәуелсіздігі