Die Projektgruppe TU Llama beschäftigt sich seit dem Sommersemester 2024 mit den aktuellen Entwicklungen um generative KI und insbesondere große Sprachmodelle (Large Language Models). Nun hat sie ihren ersten Meilenstein erreicht: Den ersten funktionierenden Prototypen.
Die Projektgruppe ist benannt nach dem Open-Source-Sprachmodell Llama von Meta AI. Ziel der PG ist es, einen Chatbot zu implementieren, der anderen Studierenden hilfreiche und mit Quellenangaben nachprüfbar richtige Antworten rund um ein (Informatik-)Studium an der TU Dortmund liefert.
Dafür trainieren die Studierenden Open-Source-Sprachmodelle weiter, bauen auf Grundlage der Fakultätswebseite eine Wissensdatenbank auf, und entwickeln eine App, über die Endnutzer komfortabel auf den Chatbot zugreifen können. Hierfür nutzen die Studierenden aktuelle Entwicklungen aus der KI-Forschung, um die sehr großen und ressourcenhungrigen LLMs einerseits auf Konsumentenhardware betreiben und auch trainieren zu können, aber auch weiterhin faktengetreue und hilfreiche Antworten zu liefern.
