Search Results: Tokenizer
Weiterleitung nach:
Lexikalische Analyse
Jumat, 2026-05-15 16:28:51Computerprogramm, das eine lexikalische Analyse durchführt, wird Lexer, Tokenizer oder lexikalischer Scanner genannt. Ein Lexer ist meist Teil eines Compilers...
Click to read more »Token
Kamis, 2026-03-19 03:48:35paralleler Prozesse Security-Token, zur Identifizierung und Authentifizierung Tokenizer, ein Computerprogramm, das eine lexikalische Analyse durchführt Spiel-...
Click to read more »Retrieval-Augmented Generation
Selasa, 2026-06-30 18:14:42Seltener wird das Bild selbst codiert, denn hierfür wird ein geeigneter Tokenizer benötigt, der Bilddaten verarbeiten kann. Wenn Bild- und Textdaten in...
Click to read more »Large Language Model
Sabtu, 2026-08-08 23:08:22"zerlegt"]. Jeder Token wird dann zum Embedding (Vektor). OpenAI verwendet den Tokenizer o200k_harmony für das GPT-OSS. Außerdem sind Token eine Abrechnungseinheit...
Click to read more »OpenAI
Sabtu, 2026-08-01 20:56:31Models – OpenAI API. Abgerufen am 15. März 2024 (englisch). OpenAI: Tokenizer – OpenAI. Abgerufen am 15. März 2024 (englisch). Introducing GPTs. OpenAI...
Click to read more »Lexer
Rabu, 2022-11-09 06:48:49Lexer (* 1971), deutscher Improvisationsmusiker Lexer steht für: lexikalischer Scanner, siehe Tokenizer Lexer (Musikproduzent), deutscher DJ aus Berlin...
Click to read more »Scanner
Jumat, 2022-09-23 13:23:48lexikalischer Scanner – zur Zerlegung einer Eingabe in logische Einheiten, siehe Tokenizer Berührungslos scannende und bildgebende Geräte in der medizinischen Alltagssprache...
Click to read more »Compiler
Selasa, 2025-07-29 20:26:05Zahlen, Zeichenketten oder Operatoren. Dieser Teil des Compilers heißt Tokenizer, Scanner oder Lexer. Ein Scanner benutzt gelegentlich einen separaten...
Click to read more »Watson (künstliche Intelligenz)
Rabu, 2026-04-01 01:47:47mit Hilfe eines Parsers des Satzes als Baum in Prolog abgebildet. Ein Tokenizer, bestehend aus UIMA-Annotatoren für Pattern Matching, kümmert sich um...
Click to read more »Apertus
Kamis, 2026-06-04 03:13:45Methode zur Worteinbettung zur Qualitätsfilterung entwickelt, und der Tokenizer in vielen Sprachen analysiert. Im Zuge der Entwicklung des Modells wurden...
Click to read more »Bidirectional Encoder Representations from Transformers
Jumat, 2026-05-08 17:05:20(„encoder-only“). Auf hoher Ebene besteht BERT aus vier Modulen: Tokenizer: Dieses Modul wandelt englischen Text in eine Sequenz ganzer Zahlen („Token“)...
Click to read more »Schlüsselwort (Programmierung)
Senin, 2025-02-24 19:58:23sind klar, wenn eine Programmiersprache durch eine Kombination aus einem Tokenizer und einem Parser analysiert wird und die Syntax der Sprache durch eine...
Click to read more »Lookahead
Jumat, 2019-01-11 02:33:50Lookahead wird unter anderem auch die Anzahl der Zeichen bezeichnet, die ein Tokenizer (lexikalischer Scanner) vorausschaut (der Wert 1 genügt für die meisten...
Click to read more »Apache OpenNLP
Jumat, 2025-10-17 00:16:513-2.5.4.bin für Satzerkennung in deutschen Texten. Tokenisierung: Der Tokenizer zerlegt eine Zeichenfolge in Token. Token sind in der Regel Wörter, Satzzeichen...
Click to read more »Racket (Programmiersprache)
Minggu, 2024-06-16 15:14:15das Zerlegen des Eingabestrings in irreduzible Elemente der Sprache (Tokenizer, Lexer) und das Prüfen und Umwandeln dieser Elemente in das Syntax-Objekt...
Click to read more »Seed7
Selasa, 2026-07-14 20:50:17die verschiedenste Bereiche abdecken: Container Numerische Funktionen Tokenizer Dateimanipulationen Netzwerke (Sockets, TLS/SSL, HTTP, HTTPS, FTP, SMTP...
Click to read more »FOR (Kommandozeilenbefehl)
Jumat, 2026-06-12 00:03:08Bestandteile aufzuteilen; mithin handelt es sich um einen primitiven Tokenizer. Ebenso ist es möglich, die Ausgabe eines anderen Befehls der Befehlszeile...
Click to read more »CMS Made Simple
Rabu, 2025-11-05 17:29:22IIS 5+, Nginx oder Sun Webserver7 MySQL 4.1+ PHP 5.4+ mit aktivierter Tokenizer-Unterstützung CMS Made Simple bietet mehrere Möglichkeiten zur Erweiterung:...
Click to read more »SignWriting
Rabu, 2026-07-08 10:53:19Wörterbüchern zur Unterstützung der Forschung in der Korpuslinguistik. Tokenizer zur Unterstützung von maschinellen Lernen für SignWriting-Texte, die Anwendungen...
Click to read more »Oracle-Java-Zertifikate
Rabu, 2023-03-01 05:08:50Suchen), Stringbearbeitung (Suchen, Parsen, Zusammensetzen, Scanner, StringTokenizer, StringBuilder, String, Formatter, Regular Expressions, Strings formatieren...
Click to read more »XQuery
Sabtu, 2026-06-27 10:03:24erweitert und ausgegeben. for $par in $page//p let $words := fn:count(fn:tokenize($par/content(), " \n\t")) where $words gt 0 return <p> {$par/content()}<br/>...
Click to read more »