Search Results: Tokenizer

Weiterleitung nach:


Lexikalische Analyse
Jumat, 2026-05-15 16:28:51

Computerprogramm, das eine lexikalische Analyse durchführt, wird Lexer, Tokenizer oder lexikalischer Scanner genannt. Ein Lexer ist meist Teil eines Compilers...

Click to read more »
Token
Kamis, 2026-03-19 03:48:35

paralleler Prozesse Security-Token, zur Identifizierung und Authentifizierung Tokenizer, ein Computerprogramm, das eine lexikalische Analyse durchführt Spiel-...

Click to read more »
Retrieval-Augmented Generation
Selasa, 2026-06-30 18:14:42

Seltener wird das Bild selbst codiert, denn hierfür wird ein geeigneter Tokenizer benötigt, der Bilddaten verarbeiten kann. Wenn Bild- und Textdaten in...

Click to read more »
Large Language Model
Sabtu, 2026-08-08 23:08:22

"zerlegt"]. Jeder Token wird dann zum Embedding (Vektor). OpenAI verwendet den Tokenizer o200k_harmony für das GPT-OSS. Außerdem sind Token eine Abrechnungseinheit...

Click to read more »
OpenAI
Sabtu, 2026-08-01 20:56:31

Models – OpenAI API. Abgerufen am 15. März 2024 (englisch).  OpenAI: Tokenizer – OpenAI. Abgerufen am 15. März 2024 (englisch).  Introducing GPTs. OpenAI...

Click to read more »
Lexer
Rabu, 2022-11-09 06:48:49

Lexer (* 1971), deutscher Improvisationsmusiker Lexer steht für: lexikalischer Scanner, siehe Tokenizer Lexer (Musikproduzent), deutscher DJ aus Berlin...

Click to read more »
Scanner
Jumat, 2022-09-23 13:23:48

lexikalischer Scanner – zur Zerlegung einer Eingabe in logische Einheiten, siehe Tokenizer Berührungslos scannende und bildgebende Geräte in der medizinischen Alltagssprache...

Click to read more »
Compiler
Selasa, 2025-07-29 20:26:05

Zahlen, Zeichenketten oder Operatoren. Dieser Teil des Compilers heißt Tokenizer, Scanner oder Lexer. Ein Scanner benutzt gelegentlich einen separaten...

Click to read more »
Watson (künstliche Intelligenz)
Rabu, 2026-04-01 01:47:47

mit Hilfe eines Parsers des Satzes als Baum in Prolog abgebildet. Ein Tokenizer, bestehend aus UIMA-Annotatoren für Pattern Matching, kümmert sich um...

Click to read more »
Apertus
Kamis, 2026-06-04 03:13:45

Methode zur Worteinbettung zur Qualitätsfilterung entwickelt, und der Tokenizer in vielen Sprachen analysiert. Im Zuge der Entwicklung des Modells wurden...

Click to read more »
Bidirectional Encoder Representations from Transformers
Jumat, 2026-05-08 17:05:20

(„encoder-only“). Auf hoher Ebene besteht BERT aus vier Modulen: Tokenizer: Dieses Modul wandelt englischen Text in eine Sequenz ganzer Zahlen („Token“)...

Click to read more »
Schlüsselwort (Programmierung)
Senin, 2025-02-24 19:58:23

sind klar, wenn eine Programmiersprache durch eine Kombination aus einem Tokenizer und einem Parser analysiert wird und die Syntax der Sprache durch eine...

Click to read more »
Lookahead
Jumat, 2019-01-11 02:33:50

Lookahead wird unter anderem auch die Anzahl der Zeichen bezeichnet, die ein Tokenizer (lexikalischer Scanner) vorausschaut (der Wert 1 genügt für die meisten...

Click to read more »
Apache OpenNLP
Jumat, 2025-10-17 00:16:51

3-2.5.4.bin für Satzerkennung in deutschen Texten. Tokenisierung: Der Tokenizer zerlegt eine Zeichenfolge in Token. Token sind in der Regel Wörter, Satzzeichen...

Click to read more »
Racket (Programmiersprache)
Minggu, 2024-06-16 15:14:15

das Zerlegen des Eingabestrings in irreduzible Elemente der Sprache (Tokenizer, Lexer) und das Prüfen und Umwandeln dieser Elemente in das Syntax-Objekt...

Click to read more »
Seed7
Selasa, 2026-07-14 20:50:17

die verschiedenste Bereiche abdecken: Container Numerische Funktionen Tokenizer Dateimanipulationen Netzwerke (Sockets, TLS/SSL, HTTP, HTTPS, FTP, SMTP...

Click to read more »
FOR (Kommandozeilenbefehl)
Jumat, 2026-06-12 00:03:08

Bestandteile aufzuteilen; mithin handelt es sich um einen primitiven Tokenizer. Ebenso ist es möglich, die Ausgabe eines anderen Befehls der Befehlszeile...

Click to read more »
CMS Made Simple
Rabu, 2025-11-05 17:29:22

IIS 5+, Nginx oder Sun Webserver7 MySQL 4.1+ PHP 5.4+ mit aktivierter Tokenizer-Unterstützung CMS Made Simple bietet mehrere Möglichkeiten zur Erweiterung:...

Click to read more »
SignWriting
Rabu, 2026-07-08 10:53:19

Wörterbüchern zur Unterstützung der Forschung in der Korpuslinguistik. Tokenizer zur Unterstützung von maschinellen Lernen für SignWriting-Texte, die Anwendungen...

Click to read more »
Oracle-Java-Zertifikate
Rabu, 2023-03-01 05:08:50

Suchen), Stringbearbeitung (Suchen, Parsen, Zusammensetzen, Scanner, StringTokenizer, StringBuilder, String, Formatter, Regular Expressions, Strings formatieren...

Click to read more »
XQuery
Sabtu, 2026-06-27 10:03:24

erweitert und ausgegeben. for $par in $page//p let $words := fn:count(fn:tokenize($par/content(), " \n\t")) where $words gt 0 return <p> {$par/content()}<br/>...

Click to read more »