By submitting, you consent to our use of your data. Privacy Policy.
Kategorie
Geschäftsführung
Erstellt von
Beam.ai
Feintunen Sie die Sprachmodelle eines Unternehmens und stellen Sie diese über Lamini bereit. So automatisieren Sie das erneute Training, das Ingenieure andernfalls manuell programmieren müssten.
Feinabstimmung benutzerdefinierter Modelle
Mit Lamini kann ein Unternehmen ein großes Sprachmodell anhand eigener Dokumente und Daten feintunen, anstatt ein allgemeines Modell im Ist-Zustand zu verwenden. Ein Beam-Agent liest einen neu freigegebenen Trainingsdatensatz, wie beispielsweise eine aktualisierte Produktdokumentation, aus dem verbundenen Speichersystem und startet den Fine-Tuning-Job in Lamini gemäß dem vom Team festgelegten Zeitplan. Er überprüft den Status des Jobs und benachrichtigt das Team nach Abschluss des Trainings zusammen mit einer kurzen Zusammenfassung der Änderungen. Anfragen zum Trainieren auf einer neuen, bisher nicht freigegebenen Datenquelle werden an einen Menschen weitergeleitet, bevor der Job gestartet werden darf.
Privates Modell-Hosting
Lamini hält ein feingetuntes Modell hinter einem privaten Endpunkt, sodass die eigenen Anwendungen eines Unternehmens es aufrufen können, ohne dass Trainingsdaten an anderer Stelle offengelegt werden. Ein Beam-Agent liest eingehende Anfragen von einer verbundenen Anwendung, wendet die genehmigte Rate- oder Nutzungsregel an und leitet die Anfrage an die richtige Modellversion in Lamini weiter. Er zeichnet auf, welche Version jede Anfrage beantwortet hat, sodass die Ergebnisse später zurückverfolgt werden können. Eine Anfrage zum Rollback auf eine ältere Modellversion oder zur vollständigen Deaktivierung eines Modells wird zuerst an einen Menschen zur Bestätigung weitergeleitet.
Nutzungs- und Kostenberichte
Lamini erfasst, wie viel Rechenleistung jedes Modell verbraucht, was sich über viele Anfragen hinweg zu erheblichen Kosten summieren kann. Ein Beam-Agent liest diese Nutzungsdaten in regelmäßigen Abständen aus, wendet die vom Team genehmigte Budgetgrenze an und aktualisiert eine gemeinsame Kostenübersicht, sodass die Finanzabteilung Lamini nicht direkt überprüfen muss. Wenn die Nutzung eines bestimmten Modells weit über das übliche Muster ansteigt, markiert der Agent die Änderung, anstatt das Modell selbst zu pausieren. Ein Mensch entscheidet dann, ob das Budget erhöht oder die Ursache untersucht werden soll.
