Der CTO von Microsoft, Kevin Scott, sagt, dass die KI-großen Sprachmodelle immer noch exponentiell skalieren. Es dauert 6-24 Monate, um jeden aufeinanderfolgenden Skalierungsknoten zu erreichen, aber die Skalierung funktioniert immer noch. Die Daten für das KI-Training unterscheiden sich von den Referenzdaten, die von der KI verwendet werden, um spezifische Antworten zu generieren. Es wird viel Arbeit geleistet, um herauszufinden, welche Trainingsdaten für das KI-Training am effektivsten sind. Es gibt Forschungen in diesem Bereich, damit wir wissen, welche Daten für zukünftiges Training synthetisiert werden sollen.
Es gibt einen wichtigen Aspekt für qualitativ hochwertige Trainingsdaten. Die Unternehmen, die in ihrem KI-Prozess weiter fortgeschritten sind, stellen fest, dass viele der Aufgaben einen Bereich von 80-20 oder 98-2 erreichen. Es ist schwierig, die letzte vollständige Automatisierung oder vollständiges Vertrauen zu erreichen. Kevin Scott weist darauf hin, dass das Ergänzen des aktuellen Frontmodells nicht der einzige Weg ist, um es zu lösen. Die Frontmodelle werden besser und weniger fragil. Man sollte nicht in das aktuelle Modell eingeschlossen sein. Man muss architektonisch vorgehen können, um das nächste bessere Modell nutzen zu können.
Brian Wang ist ein Futurist Thought Leader und ein beliebter Science-Blogger mit 1 Million Lesern pro Monat. Sein Blog Nextbigfuture.com ist der am höchsten bewertete Wissenschaftsnachrichtenblog. Er behandelt viele disruptive Technologien und Trends wie Raumfahrt, Robotik, künstliche Intelligenz, Medizin, Anti-Aging-Biotechnologie und Nanotechnologie. Bekannt für die Identifizierung wegweisender Technologien ist er derzeit Mitbegründer eines Startups und Fundraiser für vielversprechende Frühphasenunternehmen.
Er ist Leiter der Forschung für Allokationen bei Investitionen in Tiefentechnologien und Angel-Investor bei Space Angels. Als häufiger Redner bei Unternehmen war er TEDx-Sprecher und Singularity University-Sprecher sowie Gast bei zahlreichen Interviews für Radio und Podcasts. Er steht öffentlichen Reden und Beratungsaufträgen offen gegenüber.