qid stringlengths 32 32 | question stringlengths 13 69 | answer stringlengths 2 12 | context stringlengths 3.36k 127k |
|---|---|---|---|
45cad48d43f222048ea4a498fd29c4a1 | "『仮面ライダー電王』と『あまちゃん』、放送回数が多いのはどちらでし(...TRUNCATED) | あまちゃん | "{{半保護}}{{Pathnav|仮面ライダーシリーズ|frame=1}}{|style=\"float: right; text-align:c(...TRUNCATED) |
52ed1eb9c827046eb0351a60339c54ca | 清原果耶と森田成一で活動開始が早かったのはどちらですか？ | 森田成一 | "{{画像提供依頼|顔写真|date=2020年5月|cat=人物}}{{ActorActress| 芸名 = 清原 果耶|(...TRUNCATED) |
50faa6719d85a03ae2d5b40d24c8987c | 孝明天皇が生涯過ごした都に以前の都から遷都があった年は？ | 794年 | "{{基礎情報 天皇|天皇名 = 孝明天皇|歴代 = 121|画像 = Emperor Koumei.jpg|画像幅 =(...TRUNCATED) |
c6433c15a2482393c1ba8cbca5d031d6 | "『ぼくらが旅に出る理由』と『ボーン・トゥ・ラヴ・ユー』はどちらも小(...TRUNCATED) | NO | "{{Infobox Single| Name = ボーン・トゥ・ラヴ・ユー| Artist = フレディ・マーキュ(...TRUNCATED) |
49e9b60ded7991648dcdbf16de8e3eb3 | 無名塾の主宰者の誕生日の年月日は？ | 12036 | "無名塾（むめいじゅく）は日本の俳優養成所。主宰は俳優の仲代達矢。創(...TRUNCATED) |
9a7a952bcbf68adc23e762e78fdc21f0 | "映画『ダイ・ハード』と『デッドプール2』のうち、公開年が早いほうは(...TRUNCATED) | ダイ・ハード | "{{pp|small=yes}}{{Infobox Film| 作品名 = デッドプール2| 原題 = Deadpool 2| 画像 = File(...TRUNCATED) |
93c323f488c96ec73977ffa9fe1812a8 | 川島明が所属する事務所がある都道府県は？ | 大阪府 | "{{Infobox お笑い芸人| 名前 = {{ruby|川島|かわしま}} {{ruby|明|あきら}}| (...TRUNCATED) |
a0f5b2ac630a972e50627430db6d06de | "フジ子・ヘミングとドン・シャーリー、ピアノを始めた年齢が早いのはど(...TRUNCATED) | ドン・シャーリー | "{{存命人物の出典明記|date=2015年11月21日 (土) 07:28 (UTC)}}{{Infobox Musician| Name = (...TRUNCATED) |
9e5e6fac0e95ab2c190f83ad1224a38d | "『99.9-刑事専門弁護士-』のSEASON Iのヒロイン役で出演した俳優の所属事務(...TRUNCATED) | 研音 | "{{混同|999.9|redirect=99.9}}{{基礎情報 テレビ番組| 番組名 = 99.9-刑事専門弁護(...TRUNCATED) |
58d70507969e6cbd63a2f789b2b93b94 | 日立製作所と三菱重工業はどちらも会計監査人は同じですか？ | NO | "{{基礎情報 会社| 社名 = 三菱重工業株式会社| 英文社名 = Mitsubishi Heavy Indust(...TRUNCATED) |
End of preview. Expand
in Data Studio
llm-jp-longbench-JEMHopQA
llm-jp LongBench ベンチマークについて
このデータセットは，GitHub リポジトリ
https://github.com/llm-jp/llm-jp-longbench
で公開されているllm-jp LongBenchベンチマークの評価対象データセットの一部として構築されています。
llm-jp LongBench ベンチマークは，日本語大型言語モデル（LLM）の
ロングコンテキスト処理能力を体系的に評価することを目的としており，
複数の長文コンテキスト QA データセットを含んでいます。
本データセットはその一つです。
データセット概要
本データセットは、日本語の説明可能マルチホップ質問応答データセットJEMHopQA
（Ishii et al., 2024）を基に、Wikipedia記事を付与することで構築した
ロングコンテキストQA評価用データセットです。
最大65,536トークン規模の入力を想定しており、LLMのロングコンテキスト処理能力を評価することを目的としています。
元データセットと改変内容
元データセット
- JEMHopQA
- 回答導出ステップ情報を含む、日本語の根拠付きマルチホップ QA データセット
- ライセンス：CC BY-SA 4.0
- 出典：Ishii et al. (2024)
本データセットで行った改変
本データセットはJEMHopQAを基にした派生データセットです（CC BY-SA 4.0 準拠）。
以下の改変を行っています。
- 各質問に対し、日本語 Wikipedia 記事をコンテキストとして付与
派生物であるため、ライセンスはCC BY-SA 4.0を継承しています。
データ構造
各サンプルは以下のカラムを持ちます。
| カラム名 | 説明 |
|---|---|
qid |
質問 ID |
question |
質問文（日本語） |
context |
Wikipedia 由来の長文コンテキスト |
answer / gold |
正解回答 |
主に以下のファイルで構成されています。
jemhop_with_context.csv（評価用）
| トークン長の範囲 | 平均トークン長 | 質問数 |
|---|---|---|
| 0以上8K未満 | 5,453 | 126 |
| 8K以上16K未満 | 12,388 | 262 |
| 16K以上32K未満 | 23,485 | 332 |
| 32K以上64K未満 | 46,048 | 258 |
| 64K以上 | 96,293 | 81 |
上表は、JEMHopQA を基に構築した本データセットにおける、 各質問に付与されたコンテキストのトークン長分布を示しています。ここで，K=1,024とします。
使用例
from datasets import load_dataset
dataset = load_dataset("llm-jp/llm-jp-longbench-jemhop")
参考文献
- Ai Ishii, Naoya Inoue, Hisami Suzuki, and Satoshi Sekine. 2024. JEMHopQA: Dataset for Japanese Explainable Multi-Hop Question Answering. In Proceedings of the 2024 Joint International Conference on Computational Linguistics, Language Resources and Evaluation (LREC-COLING 2024), pages 9515–9525, Torino, Italia. ELRA and ICCL.
- Downloads last month
- 12