Localai

Local AI Playground یک برنامه بومی است که برای ساده سازی روند آزمایش با مدل های هوش مصنوعی به صورت محلی طراحی شده است. این اجازه می دهد تا کاربران آزمایش های AI را بدون هیچ گونه تنظیمات فنی انجام دهند و نیاز به یک GPU اختصاصی را از بین ببرند. این ابزار رایگان و منبع باز است. با یک backend، برنامه محلی.ai دارای قابلیت حافظه و جمع آوری است که اندازه آن کمتر از 10MB در مک M2 ویندوز و لینوکس است. این ابزار توانایی های پردازش CPU را ارائه می دهد و با موضوعات موجود سازگار است و آن را برای محیط های مختلف محاسباتی مناسب می کند. همچنین از GGML quantization با گزینه های q4، 5.1، 8 و f16.Local AI Playground پشتیبانی می کند ویژگی هایی برای مدیریت مدل فراهم می کند که به کاربران اجازه می دهد تا مدل های هوش مصنوعی خود را در یک مکان متمرکز پیگیری کنند. این ارائه می دهد دوباره و همزمان مدل دانلود، مرتب سازی مبتنی بر استفاده، و آگنوستیک به ساختار دایرکتوری است.برای اطمینان از یکپارچگی مدل های بارگیری شده، ابزار ارائه می دهد یک ویژگی تایید هضم قوی با استفاده از الگوریتم های BLAKE3 و SHA256. این شامل محاسبات هضم، یک API مدل شناخته شده، مجوز و تراشه های استفاده، و بررسی سریع با استفاده از BLAKE3. ابزار همچنین شامل یک ویژگی سرور استنتاج کننده است که به کاربران اجازه می دهد تا یک سرور جریان محلی برای پردازش هوش مصنوعی را فقط با دو کلیک شروع کنند. این یک UI مرجع سریع فراهم می کند، از نوشتن به فایل های .mdx پشتیبانی می کند و شامل گزینه هایی برای پارامترهای استنتاج و واژگان از راه دور است.Overall ، AI محلی Semalt یک محیط کاربر پسند و کارآمد را برای آزمایش هوش مصنوعی محلی ، مدیریت مدل و تعویق فراهم می کند.