マーラーについての様々な質問を商用の生成AI(ChatGPT, Gemini, Claude)に対して行い、その結果を受けて試作したRAG(Retrieval-Augumented Generation)の評価用に用意したプロンプトセットを、改めて商用の生成AIに与えて結果を確認する実験については、前回の記事「マーラーについて生成AIに聞いてみた(10):「大地の歌」日本・イギリス初演と第9交響曲の日本初演について」および「マーラーについて生成AIに聞いてみた(11):RAG検証用の質問をchatGPT, Gemini, Claudeにしてみた」で報告した通りです。
実験結果を確認しての所感として、現在利用できる商用の生成AIの能力は著しく改善されており、質問そのものの直接的な回答だけではなく、付加的な情報を付加するなど、エージェンとしてのチューニングが施されている他、「幻覚(Hallucination)」対策も(程度の差はあれ、また万全ではないにしても)進められていること、マーラーの生涯の事実を問うようなプロンプトに対する回答の精度は想像以上に高く、RAGによって補完すべき領域は色々な意味合いで「ローカル」であったり「パーソナル」であったりする、相対的にはマージナルな事柄に限定されることを述べました。
上記の実験は、4月26日と5月6日に分けて行いましたが、その後、Geminiの無料版が2.0 Flash から2.5 Flash にアップグレードされ、同時にDeep Researchも2.5 Proベースにアップグレードされました。特に最近は、chatGPTやGeminiのDeep Research機能について非常に高い評価が聞かれることから、これまでは利用を控えて来ましたが、Deep Researchを試用してみようと思い立ち、最近自分が執筆・公開した記事のテーマに合わせてテーマ選定を行い、マーラーの「後期様式」についてのレポートを作成させてみたところ、chatGPT、Geminiとも世評に違わぬ興味深いアウトプットが得られました。そこでDeep Research機能についての記事の執筆準備を開始したのですが、記事を準備していく中で、つい数週間前に実施した評価実験の際には、Geminiは2.0 Flashであったことを思い出し、Deep Researchの報告をする前に、Geminiは2.0 FlashとGeminiは2.5 Flashの差を確認しておくべきことに思い当たりました。そして実際に前回と同一のプロンプトセットで評価実験をしてみたところ、前回を更に上回る結果が得られました。
そこで当初の予定を変更して、本記事では、Gemini の最新版、2.5 Flashにフォーカスして、前回同様の19のプロンプトを与えた結果について報告します。まず、既に前の記事を読まれている方には煩瑣に思われるかも知れませんが、検証に用いたプロンプトを以下に示します。
- 「大地の歌」の日本初演は?
- マーラーの「大地の歌」の日本初演は
- マーラーの「大地の歌」はどこで書かれたか?
- マーラーは第8交響曲についてメンゲルベルクに何と言いましたか?
- マーラーが死んだのはいつか?
- マーラーはいつ、誰と結婚したか?
- マーラーがライプチヒの歌劇場の指揮者だったのはいつ?
- マーラーがプラハ歌劇場の指揮者だったのはいつ?
- マーラーがハンブルクの歌劇場の楽長になったのはいつ?
- マーラーの第9交響曲の日本初演は?
- マーラーは自分の葬儀についてどのように命じたか?
- マーラーの「嘆きの歌」の初演は?
- マーラーはどこで生まれたか?
- マーラーの第9交響曲第1楽章を分析してください
- マーラーの第10交響曲の補作者は?
- マーラーの第2交響曲の最初の録音は?
- マーラーの「大地の歌」のイギリス初演は?
- マーラーの「交響曲第6番」はいつ、どこで初演されたか?
- ブラームスはブダペストでマーラーについて何と言ったか?
実験は2025年5月21日に行いました。問い合わせの順番は、1の変形である2を除いて1から番号順とし、2を最後に質問することにしました。前回同様、Geminiについては今回も制限にかからなかったので、全ての問い合わせを一度に行っています。
全プロンプトに対する回答はかなりの分量になりますので、ここで全てを紹介することは控え、公開済の以下のファイルで確認頂ければと思います。なお参考までに前回のGemini 2.0 Flash へのプロンプトとその回答の一覧へのリンクも示しましたので、興味のある方は比較をして頂ければと思います。
- gm-gemini-2.5-Flash.pdf:Gemini 2.5 Flash へのプロンプトとその回答の一覧
- gm-gemini-2.0-Flash.pdf:(参考)Gemini 2.0 Flash へのプロンプトとその回答の一覧
- 「3.マーラーの「大地の歌」はどこで書かれたか?」について前回は誤り(マイアーニッヒ)正解(トーブラッハ)が返るようになった
- 「12.マーラーの「嘆きの歌」の初演は?」について前回は初稿の初演を優先し、かつ誤りであったのが、今回は改訂稿の初演をまず正しく返し、初稿については簡単に補足するにとどめていますが、回答に誤りは含まれなくなりました。
- 「16.マーラーの第2交響曲の最初の録音は?」について付加的な情報に幾つか誤りが含まれていたものが、今回は質問への回答のみを正確に返すようになりました。
「ヨハネス・ブラームスは、グスタフ・マーラーの指揮者としての才能を高く評価していました。特に、ブダペストでのマーラーの指揮について、彼は感銘を受けています。1890年、マーラーがブダペストのハンガリー王立歌劇場の監督を務めていた頃、ブラームスはたまたまそこでモーツァルトのオペラ「ドン・ジョヴァンニ」を鑑賞しました。その演奏に非常に満足し、「こんな素晴らしい演奏を聴いたことがない」と絶賛したと言われています。この出会いは、若きマーラーにとって大きな意味を持ちました。ブラームスは、後にマーラーがウィーン宮廷歌劇場(現在のウィーン国立歌劇場)の音楽監督に就任する際、彼を推薦する手紙を書いたとも言われています。ただし、注意すべきは、ブラームスが評価したのは「指揮者としてのマーラー」であり、「作曲家としてのマーラー」ではなかったという点です。ブラームスはマーラーの交響曲(特に第2番「復活」)のスコアを研究した際、その革新性や規模に驚きつつも、彼の作曲様式には戸惑いを覚えたようです。ある逸話では、「リヒャルト・シュトラウスを反乱者の首謀者だと思っていたが、今やマーラーがそうだと分かった」と述べたとも言われています。しかし、ブダペストでの「ドン・ジョヴァンニ」の指揮に対するブラームスの称賛は、マーラーの指揮者としてのキャリアを大きく後押ししたことは間違いありません。」
しかしながら、私が最も驚いたのは、「15.マーラーの第10交響曲の補作者は?」の回答でした。今回の回答には、(他の生成AIの回答も含め)前回とは異なって
「ウィレム・メンゲルベルク (Willem Mengelberg) と コルネリウス・ドッパー (Cornelius Dopper): マーラーの残した資料を元に、初期に演奏会用版を作成しました。」
という記述が含まれます。フェイクではないかと思って調べてみると、Naxosから出ているズヴェーデン指揮香港フィルのアルバムにショスタコーヴィチの第10交響曲とともに、メンゲルベルク/ドッパー版のアダージョとプルガトリオが収録されているのが確認できます。夜郎自大とはまさにこのこと、録音は2019年、CDのリリースは2022年11月とのことですが、私は今回Geminiに指摘されるまで知らず、不明を愧じる他ありませんでした。
ということで今回のGemini 2.5 Flashの検証実験の結果は、生成AIの性能向上の著しさとともに、その情報収集能力の高さを印象づけられる結果となりました。相変わらずフェイクが含まれる可能性はありチェックは欠かせないものの、自分の調査が及ばない未知の情報が提示される場合もあり、調査のエージェントとして適切で有効な活用を考えるべき時期に来ていることを強く感じさせられたことを記して、報告を閉じたいと思います。
(2025.5.22)
0 件のコメント:
コメントを投稿