GGUF版推迟发布公告（已恢复下载）

[ymcui]

llama.cpp在几小时前对Llama-3 pre-tokenizer做出了重大改动（这个PR：ggerganov/llama.cpp#6920 ）。

导致模型需要重新转换，现已将GGUF版模型下架。 （模型已恢复下载）

1）用户可根据需要，手动转换HF版模型到GGUF
2）晚些时候更新GGUF版模型

如llama.cpp加载模型后，log输出以下内容则说明模型需要重新转换：

llm_load_vocab: missing pre-tokenizer type, using: 'default'
llm_load_vocab:
llm_load_vocab: ************************************
llm_load_vocab: GENERATION QUALITY WILL BE DEGRADED!
llm_load_vocab: CONSIDER REGENERATING THE MODEL
llm_load_vocab: ************************************
llm_load_vocab:

[ymcui]

Instruct版已修复完毕，HF版已上传，modelscope稍后同步。以下是前后PPL对比：

Quant	Size	PPL (new model)	PPL (old model)
Q2_K	2.96 GB	9.1168 +/- 0.10711	10.3918 +/- 0.13288
Q3_K	3.74 GB	5.4082 +/- 0.05955	6.3018 +/- 0.07849
Q4_0	4.34 GB	5.2048 +/- 0.05725	6.0628 +/- 0.07501
Q4_K	4.58 GB	5.0189 +/- 0.05520	5.9066 +/- 0.07419
Q5_0	5.21 GB	4.9803 +/- 0.05493	5.8562 +/- 0.07355
Q5_K	5.34 GB	4.9195 +/- 0.05436	5.8062 +/- 0.07331
Q6_K	6.14 GB	4.8966 +/- 0.05413	5.7757 +/- 0.07298
Q8_0	7.95 GB	4.8822 +/- 0.05396	5.7626 +/- 0.07272
F16	14.97 GB	4.8802 +/- 0.05392	5.7628 +/- 0.07275

[ymcui]

Base版已修复完毕，HF版已上传，modelscope稍后同步。以下是前后PPL对比：

Quant	Size	PPL (old model)	👍🏻 PPL (new model)
Q2_K	2.96 GB	17.7212 +/- 0.59814	11.8595 +/- 0.20061
Q3_K	3.74 GB	8.6303 +/- 0.28481	5.7559 +/- 0.09152
Q4_0	4.34 GB	8.2513 +/- 0.27102	5.5495 +/- 0.08832
Q4_K	4.58 GB	7.8897 +/- 0.25830	5.3126 +/- 0.08500
Q5_0	5.21 GB	7.7975 +/- 0.25639	5.2222 +/- 0.08317
Q5_K	5.34 GB	7.7062 +/- 0.25218	5.1813 +/- 0.08264
Q6_K	6.14 GB	7.6600 +/- 0.25043	5.1481 +/- 0.08205
Q8_0	7.95 GB	7.6512 +/- 0.25064	5.1350 +/- 0.08190
F16	14.97 GB	7.6389 +/- 0.25001	5.1302 +/- 0.08184