Public/koboldcpp
1
0
Fork 0
mirror of https://github.com/LostRuins/koboldcpp.git synced 2026-09-06 04:51:17 +02:00
Code Issues Packages Projects Releases Wiki Activity

fix to allow all EOGs to trigger a stop, occam's glm4 fix,

Browse Source
This commit is contained in:
Concedo
2025-05-24 22:55:11 +08:00
parent bd7a40f326
commit f97bbdde00
6 changed files with 54 additions and 22 deletions
Download Patch File Download Diff File Expand all files Collapse all files
include/llama.h
+3
View File
@@ -12,6 +12,7 @@
#include <stdint.h>
#include <stdio.h>
#include <stdbool.h>
#include <set>
#ifdef LLAMA_SHARED
# if defined(_WIN32) && !defined(__MINGW32__)
@@ -941,6 +942,8 @@ extern "C" {
LLAMA_API llama_token llama_vocab_nl (const struct llama_vocab * vocab); // next-line
LLAMA_API llama_token llama_vocab_pad(const struct llama_vocab * vocab); // padding
LLAMA_API std::set<int> llama_vocab_get_eogs(const struct llama_vocab * vocab);
LLAMA_API bool llama_vocab_get_add_bos(const struct llama_vocab * vocab);
LLAMA_API bool llama_vocab_get_add_eos(const struct llama_vocab * vocab);