p988744/eland-official-doc-zh-gguf

Eland Official Document Generator (GGUF for Ollama)

台灣政府公文生成模型 - Ollama 部署版本

Model Description

本模型為 Qwen3-4B + ORPO LoRA 合併後轉換為 GGUF 格式，專為 Ollama 本地部署設計。將口語化的工作指令或文件描述轉換為符合台灣政府規範的正式公文格式。

Training Method

本模型採用 ORPO (Odds Ratio Preference Optimization) 訓練，結合監督式學習與偏好對齊：

• Chosen: 真實公文範例（正確用語）
• Rejected: GPT 生成的錯誤用語版本
• Training Samples: 498 組偏好對

Supported Document Types

• 函 - 各機關間公文往復
• 簽 - 內部陳報長官的文件
• 公告 - 對公眾宣布事項
• 書函 - 機關間非正式聯繫
• 開會通知 - 會議通知文件

Document Levels

層級	稱謂	起首語	期望語
上行	鈞部/鈞府	謹查、檢陳	請鑒核、請核示
平行	貴部/貴公司	查、檢送	請查照、請惠復
下行	該部/該府	查、檢送	希查照、希遵辦

Performance

公文層級	用語準確率
上行文	100%
平行文	100%
下行文	100%
整體	100% (3/3)

✅ Ollama: No System Prompt Required

使用 Ollama 時不需要額外提供 System Prompt，Modelfile 已內建完整的公文用語規範。

直接輸入文本即可：

ollama run eland-official-doc "請將以下口語轉換為上行公文：申請增加預算"
# 輸出：主旨：檢陳本單位113年度追加預算申請案，敬請鈞部鑒核惠予補助...

⚠️ 如果使用 vLLM 或 Transformers，請參考 vLLM 版本 的 System Prompt 說明。公文用語有嚴格層級規範（上行/平行/下行），錯誤使用會造成失禮。

Available Quantizations

File	Size	Description
eland-official-doc-zh-q8_0.gguf	~4GB	8-bit quantization (recommended)

Usage

Quick Start with Ollama

# Download the GGUF file
huggingface-cli download p988744/eland-official-doc-zh-gguf \
    eland-official-doc-zh-q8_0.gguf \
    --local-dir ./

# Download Modelfile
huggingface-cli download p988744/eland-official-doc-zh-gguf \
    Modelfile \
    --local-dir ./

# Create Ollama model
ollama create eland-official-doc -f Modelfile

# Run the model
ollama run eland-official-doc

Interactive Usage

$ ollama run eland-official-doc

>>> 請將以下口語轉換為上行公文：申請增加預算

API Usage

# Start Ollama server (if not running)
ollama serve

# API call
curl http://localhost:11434/api/generate -d '{
  "model": "eland-official-doc",
  "prompt": "請將以下口語轉換為上行公文：申請增加預算",
  "stream": false
}'

Python Integration

import ollama

response = ollama.chat(
    model='eland-official-doc',
    messages=[
        {
            'role': 'user',
            'content': '請將以下口語轉換為上行公文：申請增加預算'
        }
    ]
)

print(response['message']['content'])

Example Outputs

上行文（申請補助）

輸入：申請增加預算

輸出：
主旨：檢陳本單位113年度追加預算申請案，敬請鈞部鑒核惠予補助。
說明：
一、依據「行政機關預算執行要點」規定辦理。
二、本單位因應業務擴展需求，原核定預算已不敷使用，爰申請追加預算新臺幣壹佰萬元整。
三、檢附追加預算明細表乙份。
辦法：
敬請鈞部鑒核惠予補助。

平行文（會議邀請）

輸入：邀請其他學校來參加我們的研討會

輸出：
主旨：敬邀貴校派代表出席本校舉辦之學術研討會，請查照並惠復。
說明：
一、依據本校113年度學術交流計畫辦理。
二、旨揭研討會訂於113年12月20日假本校國際會議廳舉行。
辦法：
請貴校於113年12月15日前惠復參加人員名單。

下行文（執行指示）

輸入：通知下面單位要按照新規定辦事

輸出：
主旨：有關本府新修訂之行政作業規範，請該單位依規定辦理，希查照。
說明：
一、依據本府113年第12次行政會議決議辦理。
二、旨揭規範業經本府核定，自即日起生效。
辦法：
請該單位確實依規定辦理，希查照辦理。

Model Details

Attribute	Value
Base Model	Qwen/Qwen3-4B
Training Method	ORPO
Parameters	~4B
Quantization	Q8_0
File Size	~4GB
Context Length	32768

System Requirements

• RAM: 8GB minimum (16GB recommended)
• Disk: 5GB free space
• Ollama: v0.1.0 or later

Related Models

• eland-official-doc-zh - LoRA Adapter
• eland-official-doc-zh-vllm - Merged model for vLLM

License

Apache 2.0