2022 war ein bedeutendes Jahr für wettbewerbsorientiertes maschinelles Lernen, mit einem gesamten Preispool von über 5 Millionen US-Dollar auf allen Plattformen, wie uns der Artikel „The State of Competitive Machine Learning“ vermittelt. Die Gewinner nutzten hauptsächlich Python, PyData, PyTorch und gradientenverstärkte Entscheidungsbäume. Deep Learning hat gradientenverstärkte Entscheidungsbäume bei tabellarischen Daten noch nicht ersetzt, obwohl es oft einen Mehrwert zu bieten scheint, wenn es mit Boosting-Methoden kombiniert wird. Im Bereich NLP dominieren weiterhin Transformer, während sie in der Computer Vision zunehmend mit Convolutional Neural Networks konkurrieren.
Wettbewerbe umfassten zahlreiche Forschungsbereiche wie Computer Vision, NLP, tabellarische Daten, Robotik, Zeitreihenanalyse und viele andere. Etwa 50% der Gewinner sind Einzelgewinner, 50% sind Erstgewinner und 30% haben bereits mehr als einmal gewonnen.
Bemerkenswerte Wettbewerbe
Einige bemerkenswerte Wettbewerbe waren DrivenData’s Snowcast Showdown, Kaggle’s American Express Default Prediction und Stanford’s AI Audit Challenge. Im Bereich Computer Vision gab es über 1 Million US-Dollar an Preisgeldern in mehr als 40 Wettbewerben. Bei Naturschutzwettbewerben gab es mindestens vier Wettbewerbe, die sich auf die Identifizierung bestimmter Arten oder Tiere konzentrierten. Medizinische Bildgebungswettbewerbe umfassten mindestens fünf Wettbewerbe zur Analyse medizinischer oder biologischer Bilder.
Im Bereich der natürlichen Sprachverarbeitung (NLP) gab es über 500.000 US-Dollar an Preisgeldern in mehr als 14 Wettbewerben. Es gab auch interessante Wettbewerbe, die NLP mit anderen Arten von Problemen kombinierten, wie zum Beispiel Amazon’s dreispuriger Wettbewerb zur Verbesserung von Suchergebnissen oder der NeurIPS IGLU Challenge mit einer NLP-Aufgabe in einer Minecraft-ähnlichen Umgebung.
Neben dem Erfolg von Reinforcement Learning (RL) in den letzten zehn Jahren ist eine neue Klasse von wettbewerbsorientierten maschinellen Lernproblemen entstanden, die wir als sequenzielle Entscheidungsprobleme bezeichnen. Im Jahr 2022 gab es mehr als 25 dieser interaktiven Wettbewerbe mit einem Gesamtpreispool von über 300.000 US-Dollar. Ein Beispiel ist der Real Robot Challenge, bei dem Teilnehmer einen Roboter steuern mussten, um einen Würfel zu einem Zielort zu bewegen oder ihn an einem bestimmten Punkt im Raum mit der richtigen Orientierung zu positionieren.
Foto von Florian Schmetz auf Unsplash