GitHub hat nach Auto model selection, das Entwicklern die automatische Auswahl eines für ihre Aufgaben geeigneten Modells ermöglicht, Project HydraFusion als Forschungsvorschau vorgestellt. HydraFusion erledigt Aufgaben, indem es zur Laufzeit zwischen den Modellen mehrerer Anbieter auswählt und sie durch Entwerfen, Kritisieren, Überarbeiten oder Weiterleiten an leistungsstärkere Modelle abschließt. Das System nimmt automatisch eine Weiterleitung zwischen lokalen, Cloud- und Verbundmodellen vor und berücksichtigt dabei das Gleichgewicht zwischen Leistung, Kosten und Latenz.
HydraFusion kann in GitHub Copilot CLI genutzt werden, auf das Nutzer aller GitHub-Copilot-Tarife über /experimental zugreifen können. Die Nutzer müssen mit dem Befehl /update aktualisieren, die Funktion /experimental aktivieren und im Menü /model die Option HydraFusion (Research Preview) auswählen. Die Abrechnung basiert auf den Standard-Tokenpreisen der verwendeten Modelle.
Das System wählt für jede Anfrage eine von drei Arbeitsweisen aus: „Single“, bei der ein einzelnes Modell direkt eine Lösung erzeugt; „Cascade“, bei der der Entwurf eines effizienten Modells einer Qualitätskontrolle unterzogen und bei Bedarf an ein leistungsstärkeres Modell weitergeleitet wird; und „Critique“, bei der die Ausgabe eines Modells von einem unabhängigen Kritiker aus einer anderen Modellfamilie geprüft und anschließend überarbeitet wird.
In Offline-Evaluierungen mit drei Coding-Benchmarks zeigte HydraFusion bei niedrigeren geschätzten Kosten eine Qualität auf Frontier-Niveau. Bei TerminalBench 2.1 erhöhte es die verifizierte Aufgabenqualität im Vergleich zu Claude Opus 5 um 4,9 Punkte und senkte zugleich die geschätzten Kosten um 67 %.
Warum das wichtig ist
Dieser Ansatz verändert die Arbeitsweise, bei der Entwickler in den Coding-Prozessen auf ein einzelnes Modell angewiesen sind, indem er die Last der Modellauswahl für jede Aufgabe verringert. Die Weiterleitung lokaler, cloudbasierter und kombinierter Modelle nach Leistung, Kosten und Latenz ermöglicht es insbesondere Nutzern von Copilot CLI, innerhalb desselben Workflows von unterschiedlichen Qualitäts- und Ressourcenoptionen zu profitieren. Die Offline-Benchmark-Ergebnisse zeigen zwar, dass eine hohe Qualität bei niedrigeren geschätzten Kosten angestrebt wird, erklären jedoch allein nicht, wie sich diese Ergebnisse bei der tatsächlichen Nutzung des Systems auswirken, das den Charakter einer Forschungsvorschau hat. Die zentrale offene Frage für die Nutzer ist, wie sich diese je nach Aufgabentyp variierende Weiterleitung auf die Gesamtkosten auf Grundlage der standardmäßigen Tokenpreise und auf die tägliche Entwicklungserfahrung auswirken wird.