oder für Einzelfälle die richtige Antwort vorgeben (jede virale falsche Antwort wie "how many r in strawberry" die dann richtig beantwortet wird, aber keine generelle Lösung für andere Fragen der gleichen Klasse bietet).

Ne, da hast du ein schlechtes Beispiel gewählt, denn das Problem taucht nur bei "gewöhnlichen" LLMs auf, nicht bei reasoning Modellen. Für das Beispiel muss man also nicht für den Einzelfall die Lösung vorgeben, reasoning Modelle haben mit der Frage keine Probleme

Auch OPs Beispiel wird nur von gewöhnlichen LLMs falsch beantwortet, reasoning Modelle beantworten die Frage richtig: