Ein Programmierworkshop zum Verständnis des Trainings von Sprachmodellen. Das Kit implementiert Zeichen-Embeddings, eine verborgene tanh-Schicht und eine Softmax-Ausgabe mit expliziter Backpropagation. Sein Lernkorpus wird chronologisch in Trainings- und Validierungsdaten aufgeteilt. Dieses kleine Netz ist weder ein Chatassistent noch ein Basismodell.
Enthaltene Funktionen
- Trainierbares neuronales Netz auf der CPU
- Backpropagation und numerische Gradientenprüfung
- Einstellung von Temperatur und Seed
- JSON-Speicherung ohne pickle
- Eigener Korpus und automatisierte Tests
Lizenz und Einstieg
Originalcode unter der MIT-Lizenz, Copyright 2026 STELLARR STUDIO. Private und kommerzielle Nutzung sind bei Beibehaltung des Lizenzhinweises erlaubt. Anleitungen auf Französisch und Englisch sind enthalten. Für Marken und Abhängigkeiten gelten deren eigene Rechte. Anforderungen, Startbefehle, Tests und Grenzen der Bereitstellung finden Sie in der README. Hosting, Rechenleistung, externe APIs und individuelle Unterstützung sind nicht enthalten.
Enthaltene Dateien
.gitignoreexamples/corpus.txtkit.jsonLICENSEREADME.en.mdREADME.mdrequirements.txtTEST_REPORT.mdtest_tiny_lm.pyTHIRD_PARTY_NOTICES.mdtiny_lm.pyverification.json