Rechenzeit auf Europas schnellstem Rechner für Vision-Modelle, die ohne teure Labels auskommen
Rechenzeit auf Europas schnellstem Rechner für Vision-Modelle, die ohne teure Labels auskommen
Rechenzeit auf Europas schnellstem Rechner für Vision-Modelle, die ohne teure Labels auskommen
Der Forschungsbereich Industrial Deep Learning (IDL) des Insitute for TMDT hat sich Rechenzeit auf JUPITER gesichert, Europas erstem Exascale-Supercomputer am Forschungszentrum Jülich. Im Bild stehen Dr. Moritz Weiss Weiß und Nils Hütten noch vor den Uni-eigenen Servern, gerechnet wird künftig eine Größenordnung darüber.
Wofür? Für Self-Supervised Learning (SSL) im Computer Vision. In der industriellen Bildverarbeitung sind gelabelte Daten teuer, knapp und oft inkonsistent. Genau hier setzt SSL an: Modelle lernen aussagekräftige Repräsentationen direkt aus den Daten, bevor überhaupt ein einziges manuelles Label vergeben wird. Die offene Frage ist, welche Kombination aus Modellarchitektur, Datenmenge und Lernparadigma dabei am tragfähigsten ist.
Diese Frage lässt sich nicht durch Nachdenken beantworten, sondern nur durch systematisches Durchtesten, und das kostet Rechenzeit. Statt einzelne Trainingsläufe über Wochen zu fahren, wird der Suchraum auf JUPITER in einem ganz anderen Maßstab erschlossen.
JUPITER ist Europas erster Rechner oberhalb der Exascale-Schwelle und der energieeffizienteste seiner Klasse. Der Zugang wurde in einem kompetitiven Verfahren vergeben, über 120 nationale und internationale Vorhaben haben sich bereits um Rechenzeit beworben, von Erd-Klimasimulationen bis zur Quantencomputer-Simulation. Dass ein Wuppertaler Forschungsbereich hier zum Zug kommt, ist ein Standortsignal, nicht zuletzt, weil JUPITER in Jülich und damit in NRW steht.
Verantwortet wird das Vorhaben von Dr. Moritz Weiss, Leiter des Schwerpunkts Visual Perception & Understanding der IDL, gemeinsam mit dem Doktoranden Nils Hütten. Die ersten großskaligen Pretraining-Läufe laufen an. Die Ergebnisse berichten wir, wenn sie da sind.
