+31 (0)43 30 88 400 | office@comex.eu
Off-cloud AI appliance
Silent AI
100% local, 100% secure, 100% yours
De uitdagingen
voor het gebruik van een GenAI (GPT) in het bedrijf
AI in het bedrijf
AI kan meerdere gegevensbronnen doorzoeken op gewenste informatie en de resultaten samenvatten in een begrijpelijk antwoord.
Samenvattingen van gedetailleerde inhoud, vertalingen en herformuleringen behoren ook tot de sterke punten van generatieve AI.
Het gebruik van generatieve AI (GenAI) zoals ChatGPT herbergt ongetwijfeld veel potentieel voor bedrijven en instellingen.
In tegenstelling tot machine learning, dat al jaren wordt gebruikt voor voorspellend onderhoud en soortgelijke toepassingen, is GenAI relatief nieuw. Grote taalmodellen (LLM’s) maken het mogelijk om complexe vragen “menselijk” te beantwoorden in plaats van alleen maar een lijst met zoekresultaten te geven.
Vragen vervangen zoekopdrachten, antwoorden vervangen zoekresultaten.
Bedrijven en instellingen hopen dat dit vooral de efficiëntie verhoogt bij het steeds opnieuw beantwoorden van dezelfde vragen, bijvoorbeeld bij eerstelijnsondersteuning.
Bij het plannen van het gebruik van een GenAI zijn er echter een aantal problemen die samenhangen met openbare GenAI-oplossingen: De meest dringende is de kwestie van privacy en gegevensbeveiliging, aangezien bij cloudoplossingen de gegevens die worden gebruikt om de LLM te trainen, worden gebruikt om zijn “kennis” te verrijken. Hallucinatie en ondoorzichtige prijzen zijn ook obstakels voor het gebruik van openbaar beschikbare GenAI-oplossingen.
It’s your data
Silent AI
100% local, 100% secure, 100% yours
Silent AI is een AI-appliance die alle componenten voor zelfvoorzienende AI combineert.
Het platform bestaat uit een ultramoderne architectuur die is geoptimaliseerd voor maximale gegevensdoorvoer tussen opslag en processors.
De opslag is gebaseerd op onze zeer veilige en beproefde opslagsystemen en biedt maximale beveiliging tegen gegevensverlies en cyberaanvallen.
De software is gebaseerd op geharde Linux. Verschillende vectordatabases met geïntegreerd rechtenbeheer bevatten de informatie die eerder is gemaakt van uw brongegevens met behulp van onze parsers en verbindingen. Het gebruikte taalmodel (LLM) is vooraf getraind voor uw vereisten en is volledig zelfvoorzienend. De API maakt de integratie van Silent AI-functionaliteit in andere toepassingen mogelijk.
De FAST LTA CARE service zorgt voor een soepele en veilige werking van het systeem en we zijn 24/7 beschikbaar op aanvraag. Consistente kosten op lange termijn zorgen voor planningszekerheid.
Local.
Silent AI draait volledig in een lokale omgeving en werkt zonder online verbinding. Dit betekent dat je altijd volledige controle behoudt over je gegevens, die je ook op elk moment weer kunt verwijderen, zelfs gedeeltelijk.
Private.
Silent AI is geïntegreerd in je rechten- en gebruikersbeheersysteem. Toegang tot de gebruikte gegevens is gebaseerd op de rechten van de gebruikers. Uw gegevens verlaten nooit de lokale omgeving.
Secure.
Silent AI is gebaseerd op onze decennialange ervaring met zeer veilige opslagsystemen, waarbij gegevens nooit verloren mogen gaan of gecompromitteerd mogen worden door misbruik.
Managed.
Silent AI zal beschikbaar zijn als kant-en-klare toepassing voor AI-ondersteund kennisbeheer in bedrijven, bijvoorbeeld ter ondersteuning van verkoop of klantenservice. Gegevens uit verschillende bronnen kunnen worden geïntegreerd.
Sustainable.
Omdat er geen training van de LLM plaatsvindt in Silent AI, heeft het systeem veel minder GPU-resources nodig dan vergelijkbare systemen. Dit bespaart energie en zorgt voor een lage CO2 footprint.
From Europe.
Silent AI is ontwikkeld in Duitsland en voldoet aan de GDPR en Europese AI-wetgeving. Je hebt toegang tot lokale ondersteuning en er wordt persoonlijk voor je gezorgd.
Geen hertraining.
Lokale taalmodellen met RAG maken volledig zelfvoorzienende AI mogelijk.
Local LLM.
Er zijn niet langer alleen commerciële “black box” taalmodellen beschikbaar. De open source gemeenschap heeft een groot aantal vrij beschikbare LLM’s opgeleverd die zich qua prestaties niet hoeven te verschuilen achter ChatGPT en anderen.
Deze modellen kunnen lokaal en dus volledig zonder internettoegang worden gebruikt.
In plaats van zeer grote, universele taalmodellen te moeten gebruiken die enorme middelen vereisen voor training en inzet, kunnen deze LLM’s vooraf worden getraind voor specifieke taken en zo compact worden gehouden.
RAG Injection.
Om dit lokale taalmodel rekening te laten houden met particuliere gegevensbronnen, worden deze met behulp van RAG (Retrieval Augmented Generation) overgedragen op het moment van de query met de prompt. De LLM haalt de informatie uit een vectordatabase die vooraf is gegenereerd op basis van deze brongegevens.
Als de toegang tot deze database voor de LLM wordt verwijderd, kunnen resultaten die alleen uit deze privégegevens kunnen komen, niet meer worden opgevraagd.
Het gebruik van een lean LLM en RAG-injectie maakt het mogelijk om de taal (begrip en uitvoer) te scheiden van de kennis (informatiebronnen).
Transparent Use.
Aanbieders van openbare GenAI-oplossingen zullen verschillende advertentiemodellen in hun diensten moeten integreren om de immense kosten te dekken, zoals Perplexity zojuist heeft aangekondigd. De basis hiervoor is natuurlijk de evaluatie van de ingevoerde zoekopdrachten en de resulterende antwoorden.
Zelfs na anonimisering bestaat het risico dat bedrijfsinformatie wordt opgeslagen en gebruikt door GenAI-aanbieders op basis van de vragen.
Silent AI onthoudt zich natuurlijk van elke vorm van evaluatie van de vragen en antwoorden. Gebruikers kunnen optioneel de kwaliteit van het antwoord na een query beoordelen en deze beoordelingen beschikbaar stellen aan FAST LTA.
Applications
Silent AI is geschikt voor een reeks tekstgebaseerde toepassingen waarbij privégegevens de lokale site niet mogen verlaten.
Intelligent kennisbeheer
Kennisbeheer is een van de grootste uitdagingen voor bedrijven en overheden. De mogelijkheid om snel correcte antwoorden te krijgen op terugkerende vragen verhoogt de efficiëntie en verkort de trainingstijd.
Ondanks de voortschrijdende digitalisering is informatie vaak verspreid over meerdere bronnen en systemen. In de meeste gevallen wordt informatie verkregen via verschillende zoekopdrachten in het betreffende platform. Het gevolg is dat medewerkers meer of minder geschikte zoekopdrachten krijgen, waaruit vervolgens moeizaam de relevante informatie moet worden gezocht.
Silent AI zet het ophalen van informatie uit meerdere zoekopdrachten om in een begrijpelijk antwoord met precieze broninformatie.
Hierdoor kunnen medewerkers snel relevante antwoorden uit verschillende bronsystemen vinden.
Omdat Silent AI rekening houdt met bestaand rechtenbeheer, krijgen werknemers alleen antwoorden op informatie waartoe ze toegang hebben. Bovendien kunnen hele informatiegebieden tijdelijk of permanent ontoegankelijk worden gemaakt door databases te ontkoppelen.
Intelligente codeerassistent
AI helpt al lange tijd bij de ontwikkeling van software. De huidige hulpsystemen zijn echter gebaseerd op publieke clouddiensten. Het is niet altijd transparant welke informatie en delen van code door de aanbieder worden opgeslagen en gebruikt om de AI te verbeteren. In het ergste geval kan code met een hoge ontwikkelinspanning en bijbehorende waarde ineens vrij beschikbaar zijn voor iedereen zonder dat de bijbehorende licentievoorwaarden in acht worden genomen.
Het gebruik van Silent AI beperkt de ondersteuning tot de lokale ontwikkelomgeving.
Hiervoor kunnen speciale LLM’s worden gebruikt die zijn geoptimaliseerd voor de respectievelijke gebruikte programmeertalen. Code die al beschikbaar is in het bedrijf kan ook worden gebruikt voor ondersteuning via RAG.
AI integratie
Silent AI kan ook worden geïntegreerd in bestaande software. Vervang het zoekveld van je oplossing door een vragenveld. Je gebruikers krijgen antwoorden met informatie rechtstreeks uit je software, met een hoge relevantie en precieze broninformatie.
We bieden een uitgebreide API om Silent AI in je applicatie te integreren.
Of het nu gaat om DMS, financiële applicaties, documentatie, ticketsystemen of uw specifieke brancheoplossing: lokale AI-integratie met Silent AI verbetert de gebruikerservaring en verhoogt de productiviteit.
Wat is het verschil tussen Silent AI en ChatGPT Enterprise?
Silent AI is een AI-appliance die wordt geïnstalleerd in jouw datacenter of in een edge datacenter. Je hebt volledige controle over welke verbindingen Silent AI mag maken, welke gegevens worden verwerkt en wie toegang heeft tot de appliance. Silent AI heeft geen verbinding met een cloudservice nodig (behalve voor optionele monitoring van het systeem zelf).
Silent AI is gebaseerd op een speciaal opslagplatform dat profiteert van onze jarenlange ervaring op het gebied van beveiligde opslagsystemen. Naast een hoge interne gegevensdoorvoer lag de focus tijdens de ontwikkeling op gegevensbeveiliging en gegevensprivacy.
Silent AI is direct verbonden met uw gegevensbronnen en vereist geen “upload” van documenten. Onze parsers kunnen overweg met verschillende op tekst gebaseerde bronnen, zoals Office365 & Sharepoint, Confluence / Jira, websites / intranet. Jij bepaalt hoe vaak de informatie wordt bijgewerkt vanuit de respectievelijke bronnen.
Silent AI is ontworpen voor maximaal 50 gebruikers per unit en toepassing. Als lokale appliance respecteert Silent AI je bestaande rechtenbeheer (bijv. AD) en kan functies en toegang tot databases dienovereenkomstig vrijgeven en beperken.
Silent AI is niet gebaseerd op token-gebaseerde facturering die je “straft” naarmate je het systeem meer gebruikt. Naast de hardware zorgen constante licentie- en onderhoudskosten voor lage kosten die op de lange termijn kunnen worden ingepland.
Wat is het verschil tussen Silent AI en andere AI-apparaten?
De meeste AI-apparaten hebben als doel om hun eigen AI-model te bouwen (meestal machine learning, zeldzame GenAI / LLM) en dit te trainen voor de specifieke use case. Dit proces duurt lang, vereist extreem veel GPU-rekenkracht en is daarom erg energie- en kostenintensief.
Silent AI combineert een algemeen, slank open-source taalmodel met gerichte RAG-injectie vanuit lokale vectordatabases. Hiervoor is geen training van een AI-model nodig. Het creëren en ophalen van de vectordatabases vereist een fractie van de GPU-rekenkracht van andere AI-apparaten.
Wat is het verschil tussen Generatieve AI en Machine Learning?
Machine learning has been used for decades to obtain high-quality forecasts for specific areas from as much historical data as possible. Predictive maintenance, financial forecasts and weather reports are just some of the common applications.
Generative AI combines information from different sources and can be questioned in understandable language and provide answers, but can also generate images, sounds, videos, create summaries, recognize patterns (image analysis) and write analyses. Predictions are not part of GenAI’s repertoire.
Kan Silent AI ook worden gebruikt voor beeldanalyse of -generatie?
Nee, Silent AI is een tekstgebaseerde GenAI. Er kunnen vragen worden gesteld in begrijpelijke taal en er kunnen antwoorden worden geschreven op basis van de aanvullende informatie die door RAG is verstrekt op het moment van de vraag. Silent AI heeft ook de mogelijkheden van het betreffende taalmodel, d.w.z. het kan teksten samenvatten, herformuleren en vertalen.
Subscribe for tips and info