Перейти к основному содержимому

Получить информацию о модели

Получает информацию о выбранной модели

Функция ПолучитьИнформациюОМодели(Знач URL, Знач Модель, Знач Подробно = Истина, Знач ДопЗаголовки = "") Экспорт

ПараметрCLI опцияТипОбяз.Назначение
URL--urlСтрокаURL сервера Ollama
Модель--modelСтрокаИмя модели
Подробно--verboseБулевоВозврат полной информации о модели
ДопЗаголовки--headersСоответствие Из КлючИЗначениеДоп заголовки запроса, если необходимо

Возвращаемое значение: Соответствие Из КлючИЗначение - Результат обработки


подсказка

Метод в документации API: Show Model Information


Пример использования для 1С:Предприятие/OneScript
    URL   = "https://api.athenaeum.digital/ollama";
Токен = "10KO..."; // Авторизация - не часть API Ollama

Модель = "mario";

ДопЗаголовки = Новый Соответствие;
ДопЗаголовки.Вставить("Authorization", СтрШаблон("Bearer %1", Токен));

Результат = OPI_Ollama.ПолучитьИнформациюОМодели(URL, Модель, Ложь, ДопЗаголовки);
Результат
{
"modelfile": "# Modelfile generated by \"ollama show\"\n# To build a new Modelfile based on this, replace FROM with:\n# FROM mario:latest\n\nFROM C:\\Users\\Administrator\\.ollama\\models\\blobs\\sha256-2af3b81862c6be03c769683af18efdadb2c33f60ff32ab6f83e42c043d6c7816\nTEMPLATE \"<|system|>\n{{ .System }}</s>\n<|user|>\n{{ .Prompt }}</s>\n<|assistant|>\n\"\nSYSTEM You are Mario from Super Mario Bros.\nPARAMETER stop <|system|>\nPARAMETER stop <|user|>\nPARAMETER stop <|assistant|>\nPARAMETER stop </s>\n",
"parameters": "stop \"<|system|>\"\nstop \"<|user|>\"\nstop \"<|assistant|>\"\nstop \"</s>\"",
"template": "<|system|>\n{{ .System }}</s>\n<|user|>\n{{ .Prompt }}</s>\n<|assistant|>\n",
"system": "You are Mario from Super Mario Bros.",
"details": {
"parent_model": "tinyllama:latest",
"format": "gguf",
"family": "llama",
"families": [
"llama"
],
"parameter_size": "1.1B",
"quantization_level": "Q4_0"
},
"model_info": {
"general.architecture": "llama",
"general.file_type": 2,
"general.parameter_count": 1100048384,
"general.quantization_version": 2,
"llama.attention.head_count": 32,
"llama.attention.head_count_kv": 4,
"llama.attention.layer_norm_rms_epsilon": 0.00001,
"llama.block_count": 22,
"llama.context_length": 2048,
"llama.embedding_length": 2048,
"llama.feed_forward_length": 5632,
"llama.rope.dimension_count": 64,
"llama.rope.freq_base": 10000,
"tokenizer.ggml.bos_token_id": 1,
"tokenizer.ggml.eos_token_id": 2,
"tokenizer.ggml.merges": null,
"tokenizer.ggml.model": "llama",
"tokenizer.ggml.padding_token_id": 2,
"tokenizer.ggml.scores": null,
"tokenizer.ggml.token_type": null,
"tokenizer.ggml.tokens": null,
"tokenizer.ggml.unknown_token_id": 0
},
"tensors": [
{
"name": "output.weight",
"type": "Q4_K_S",
"shape": [
2048,
32000
]
},
{
"name": "token_embd.weight",
"type": "Q4_0",
"shape": [
2048,
32000
]
},
{
"name": "blk.0.attn_norm.weight",
"type": "F32",
"shape": [
2048
]
},
{
"name": "blk.0.ffn_down.weight",
"type": "Q4_0",
"shape": [
5632,
2048
]
},
{
"name": "blk.0.ffn_gate.weight",
"type": "Q4_0",
"shape": [
2048,
5632
]
},
{
"name": "blk.0.ffn_up.weight",
"type": "Q4_0",
"shape": [
2048,
5632
]
},
{
"name": "blk.0.ffn_norm.weight",
"type": "F32",
"shape": [
2048
]
},
{
"name": "blk.0.attn_k.weight",
"type": "Q4_0",
"shape": [
2048,
256
]
},
{
"name": "blk.0.attn_output.weight",
"type": "Q4_0",
"shape": [
2048,
2048
]
},
{
"name": "blk.0.attn_q.weight",
"type": "Q4_0",
"shape": [
2048,
2048
]
},
{
"name": "blk.0.attn_v.weight",
"type": "Q4_0",
"shape": [
2048,
256
]
},
{
"name": "blk.1.attn_norm.weight",
"type": "F32",
"shape": [
2048
]
},
{
"name": "blk.1.ffn_down.weight",
"type": "Q4_0",
"shape": [
5632,
2048
]
},
{
"name": "blk.1.ffn_gate.weight",
"type": "Q4_0",
"shape": [
2048,
5632
]
},
{
...