Jede Anfrage soll automatisch zum passenden Rechenzentrum gelangen
Die geplante Architektur soll bei jeder Anfrage mehrere Entscheidungen zusammenführen: Welches KI-Modell eignet sich für die Aufgabe, wo ist gerade Rechenleistung frei und wie sensibel sind die verwendeten Daten? Besonders schutzbedürftige Forschungsdaten sollen nur an technisch und rechtlich geeigneten Standorten verarbeitet werden.
Dafür braucht es einheitliche Schnittstellen zwischen den beteiligten Hochschulen und Rechenzentren. Zusätzlich ist ein „Bring Your Own Model“-Portal vorgesehen. Hochschulen sollen darüber eigene KI-Modelle in die gemeinsame Infrastruktur einbringen und betreiben können. Ob ein Modell tatsächlich verfügbar ist und welche Nutzungskosten entstehen, geht aus der Projektankündigung noch nicht hervor.
Der regionale Bezug reicht über die Koordination hinaus: Die Universität Tübingen entwickelt unter anderem Software und Protokolle für die Steuerung des Verbunds sowie Verfahren für lokale KI-Ausführung und den föderierten Betrieb. Das KIT arbeitet an seiner KI-Toolbox weiter. Welche konkrete Hardware später in COSAI eingebunden wird, ist bislang nicht veröffentlicht.
Knapp drei Millionen Euro finanzieren zunächst den Aufbau
Die Wissenschaftsministerien von Baden-Württemberg, Bayern und Nordrhein-Westfalen fördern COSAI über drei Jahre mit insgesamt knapp drei Millionen Euro. Rund eine Million Euro kommen aus Baden-Württemberg. Neben Tübingen und dem KIT arbeiten Hochschulen und Rechenzentren der beiden Partnerländer an dem Verbund.
Die Förderung finanziert damit zunächst Architektur, Schnittstellen und Software – keinen bereits verfügbaren Hochschuldienst. Einen Termin, ab dem Forschende oder Lehrende das Netz regulär nutzen können, nennt das Wissenschaftsministerium nicht. Auch messbare Angaben zu Kapazität, Auslastung oder Zahl der später angeschlossenen Hochschulen fehlen noch.
Der Bedarf an einer gemeinsamen Struktur ist unabhängig davon konkret: Der Wissenschaftsrat empfiehlt Hochschulen, leistungsfähige und souveräne KI-Infrastrukturen gemeinsam aufzubauen. Welche Rechenressourcen bereits vorhanden sind, zeigt etwa der Hochleistungsrechner HoreKa 2 am KIT mit 300 KI-Beschleunigern. Dass genau dieser Rechner Teil von COSAI wird, ist jedoch nicht bestätigt. Entscheidend wird nun, ob aus den geplanten Schnittstellen innerhalb der dreijährigen Laufzeit ein verlässlich nutzbarer Verbund entsteht.
