Die wichtigsten Erkenntnisse
- ChatGPT-Antworten sind trotz der anfänglichen Behauptung nicht unbegrenzt lang. Es gibt versteckte Grenzen, die durch das Token-System, vergangene Gespräche und Systemanforderungen bestimmt werden.
- Das von ChatGPT verwendete Tokensystem berücksichtigt sowohl die Länge von Anfragen als auch von Antworten. Die verfügbaren Tokenlängen variieren je nach verwendetem GPT-Modell.
- Um längere Antworten von ChatGPT zu erhalten, können Sie es bitten, fortzufahren, Ihre Frage in kleinere Abschnitte zu unterteilen, die Option „Neu generieren“ zu verwenden, eine Wortanzahlbegrenzung festzulegen oder eine neue Konversation zu beginnen. Diese Techniken können Ihnen helfen, die inoffiziellen Begrenzungen zu umgehen und vollständigere Antworten zu erhalten.
ChatGPT ist eine große Neuigkeit. Aber wie groß sind die Antworten, die Sie von diesem Allzweck-Chatbot erhalten?
Dies festzustellen ist nicht so einfach, wie Sie vielleicht denken. Stellen Sie ChatGPT zunächst diese Frage und Sie können sicher sein, dass es keine festgelegten Begrenzungen für die Länge der Antworten gibt.
Wie wir hier jedoch feststellen, ist es nicht so einfach. Es gibt versteckte Grenzen für die Länge einer ChatGPT-Antwort, aber es gibt auch einige raffinierte und einfache Workarounds, mit denen Sie längere Antworten erhalten.
Wie bestimmt ChatGPT die Länge einer Antwort?
Die Funktionsweise von ChatGPT ist komplex und die Antwortlänge variiert je nach Frage und gewünschtem Detaillierungsgrad. Wie der nächste Screenshot zeigt, gibt ChatGPT an, dass es keine strengen Beschränkungen gibt.
Natürlich ist es keine gute Idee, ChatGPT nach sich selbst zu fragen, da es normalerweise nicht objektiv über seine Fähigkeiten ist oder nur über begrenzte Informationen verfügt. Daher haben wir einige Tests durchgeführt, um die Längenbeschränkungen für ChatGPT-Antworten zu ermitteln. Wir haben den Chatbot gebeten, einen 5000 Wörter langen Artikel über die Geschichte der FIFA-Weltmeisterschaft zu schreiben. Die Selbsteinschätzung von ChatGPT wich von den Ergebnissen ab, die wir gefunden haben.
ChatGPT ist ein leistungsstarkes Tool. Aber vielleicht waren 5.000 Wörter etwas zu viel verlangt, also habe ich stattdessen 2.500 Wörter verlangt.
ChatGPT sagte immer noch, dass es die Anfrage nicht erfüllen könne. Wir arbeiteten uns auf 1.000 Wörter herunter, bevor der Chatbot den Artikel produzierte. Aber es gab noch ein weiteres Problem: Egal, wie oft wir es versuchten, ChatGPT konnte keine 1.000 Wörter zu dem Thema produzieren. Aber warum? Was schränkt die Fähigkeit des Chatbots ein, längere Antworten zu produzieren?
Ein Teil der Antwort auf die Frage, warum dies geschieht, liegt im sogenannten Token-System.
Welches Token-System verwendet ChatGPT?
Wenn Sie ChatGPT eine Frage stellen, hängt die Länge der Antworten, die es geben kann, von einem Token-System ab. Anstatt einer einfachen Wortzählung zur Bestimmung der Länge von Anfragen und Antworten verwendet ChatGPT dieses System. Fällt Ihnen etwas auf? Die Länge von „Anfragen und Antworten“ wird berücksichtigt. Das Token-System zerlegt jede Eingabe und Ausgabe in eine Reihe von Token, um die Größe von Anfrage und Antwort zu klassifizieren.
Obwohl die Wortanzahl dabei eine Rolle spielt, ist sie nicht die ganze Geschichte. Das folgende Beispiel wurde beispielsweise in das Tokenizer-Tool von OpenAI eingegeben.
Der Satz „Wie viele Wörter habe ich eingegeben?“ und die Antwort „6“ wurden auf einen Wert von neun Token „tokenisiert“. Dies entspricht der „Faustregel“ von OpenAI, wonach ein Token etwa drei Viertel eines Wortes entspricht.
Hier wird es etwas knifflig. Die GPT-Modelle von OpenAI sind in unterschiedlichen Tokenlängen erhältlich. Das Standardmodell GPT-4, das mit Ihrem ChatGPT Plus-Abonnement geliefert wird, bietet eine Token-Kontextlänge zwischen 4k und 8k. OpenAI bietet auch ein erweitertes GPT-4-Modell mit 32k Token-Kontextlänge. Die GPT-3.5-Reihe bietet noch mehr Token-Vielfalt. Es gibt 4k-, 8k- und 16k-GPT-3.5-Modelle. Allerdings sind nicht alle dieser Modelle öffentlich verfügbar.
Für diesen Test haben wir die Basismodelle GPT-3.5 und angebliche GPT-4 8k verwendet. Wir sagen „angeblich“, weil das 8k-Tag bei einem Kontextfenstertest nicht funktioniert hat. Und dann ist da noch die Tatsache, dass es keine Bestätigung von offiziellen Quellen gibt, dass das GPT-4-Modell unter chat.openai.com ein 8k-Modell ist.
Das Basismodell GPT 3.5 4k soll Benutzerfragen und -antworten auf 4.097 Token beschränken. Ebenso soll das GPT-4 8k-Modell 8.192 Token liefern. Nach Berechnungen von OpenAI entspricht dies etwa 3.000 Wörtern für GPT-3.5 und etwa 5.000 bis 6.000 Wörtern für die GPT-4 8k-Token. Aber warten Sie mal. Warum konnte ChatGPT bei einer Kapazität von ungefähr 3.000 bis 6.000 Wörtern bei beiden Modellen auf Anfrage keinen Artikel mit 2.500 oder sogar 1.500 Wörtern liefern? Warum sind die Antworten von ChatGPT viel kürzer als die angegebene Tokenanzahl oder Kontextlänge?
Warum sind die Antworten von ChatGPT begrenzt?
Während die Tokenlänge in der Theorie unkompliziert und gut aussieht, gibt es noch weitere Aspekte, wie KI-Modelle diese Grenzen berücksichtigen. Dabei sind zwei Aspekte zu berücksichtigen.
- Vergangene Gespräche: Da ChatGPT ein Konversations-Chatbot ist, berücksichtigt der Chatbot bei jeder Frage ältere Konversationen, um Konsistenz zu wahren und natürlich klingende Interaktionen sicherzustellen. Das bedeutet, dass bei längeren Konversationen ältere Eingabeaufforderungen und Antworten immer als Teil des Kontextfensters betrachtet werden und letztendlich Ihre Tokenlänge auffressen. Es sind also nicht nur die unmittelbaren Fragen und Antworten, die bei der Kontextfensterberechnung berücksichtigt werden.
- Systembedarf: ChatGPT ist schnell zu einer der am schnellsten wachsenden Apps aller Zeiten geworden. Dies hat eine enorme Nachfrage nach ChatGPT erzeugt. Um sicherzustellen, dass jeder etwas vom Geschehen abbekommt, sind 8.000 Token möglicherweise nicht immer 8.000. Denken Sie daran: Je mehr Token verarbeitet werden müssen, desto höher ist die Systembelastung. Um die durchschnittliche Nachfrage jedes Benutzers zu verringern, werden die Antworten weit unter die angegebenen Grenzen gekürzt.
Es sei betont, dass dies keine feste Regel ist. Wir haben Ergebnisse generiert, die diesen Wert um fast zweihundert Wörter überschritten haben. Dies kann jedoch als sichere Obergrenze für vollständige Antworten angesehen werden.
So erhalten Sie längere Antworten von ChatGPT
Wenn Sie erst einmal verstanden haben, dass es eine „versteckte Grenze“ für die Antworten von ChatGPT gibt, gibt es einige einfache Möglichkeiten, die Ihnen dabei helfen, umfassendere Antworten zu erhalten.
- Bitten Sie ChatGPT, fortzufahren: Wenn ChatGPT mitten in einer Antwort anhält, besteht eine Möglichkeit darin, es einfach aufzufordern, fortzufahren. Im folgenden Beispiel haben wir „Weiter“ eingegeben und es wurden der Antwort weitere zweihundert Wörter hinzugefügt.
- Teilen Sie Ihre Frage in kleinere Abschnitte auf: Wir haben es beispielsweise mehrmals gebeten, einen Aufsatz über die Auswirkungen von KI auf die Gesellschaft zu schreiben. Eine Möglichkeit besteht darin, es zu bitten, einige Themen für einen Aufsatz über KI in Stichpunkten aufzulisten und die bereitgestellten Stichpunkte dann als einzelne Aufforderungen zu verwenden.
- Verwenden Sie die Option „Regenerieren“: Dies führt zwar möglicherweise zu demselben Fehler, aber da Sie nichts zu verlieren haben, ist es immer einen Versuch wert.
- Geben Sie in Ihrer Eingabeaufforderung eine Obergrenze für die Anzahl Ihrer Wörter an: Das folgende Bild veranschaulicht, wie dies verwendet werden kann, um die maximale Wortanzahl in einer Antwort zu manipulieren.
- Neue Unterhaltung starten: Wenn Sie eine neue Konversation beginnen, haben Sie eine leere Tafel, mit der Sie arbeiten können. Denken Sie daran, dass ChatGPT frühere Eingabeaufforderungen und Antworten in einer Konversation berücksichtigt. Wenn Sie einen neuen Chat beginnen, haben Sie ungenutzten Kontext, mit dem Sie arbeiten können.
Diese Tipps helfen Ihnen dabei, ausführlichere Antworten von ChatGPT zu erhalten und die inoffizielle Beschränkung der Antwortlänge zu umgehen.
ChatGPT: Qualität vor Quantität
Obwohl es keine offiziellen Informationen zur maximalen Länge von ChatGPT-Antworten gibt, gibt es in der Praxis versteckte Einschränkungen. Das Token-System, das von früheren Gesprächen und der Systemanforderung beeinflusst wird, wirken sich alle darauf aus, wie lang die Antworten von ChatGPT sein können. Wenn Sie ChatGPT jedoch bitten, fortzufahren, Fragen in Teile aufteilen, Antworten neu generieren, Wortzahlen angeben und neue Chats starten, können Sie häufig vollständigere und längere Antworten erhalten. Obwohl es nicht perfekt ist, können Sie das Beste aus diesem leistungsstarken KI-Chatbot herausholen, wenn Sie sich dieser inoffiziellen Grenzen bewusst sind und die richtigen Techniken verwenden.
Unterstützen Sie unsere Arbeit ❤️
Wenn Ihnen dieser Artikel gefallen hat, können Sie uns mit einem Trinkgeld unterstützen, damit wir weiterhin großartige Inhalte veröffentlichen können.
