2023 年は終わり、いくつかの考え、不安、そして解放を経験しました。
学術についての考え#
2022 年末に、以前の主要な学術活動の 1 つで、職業的な態度の悪い査読者に遭遇しました。これにより、自分自身と共同研究者の多くのエネルギーと時間が無駄になり、持続的な自己否定感と虚無感が生まれました。以前にも同様のことを経験したことはありましたが、今回の事態は予想をはるかに超えていました。同業者が約 1 年もの間引き延ばし、"この「形容詞 A + 名詞 B」の仕事は「名詞 B のジャーナル」の範囲に合っていない" という評価を出しました。
そのため、初稿が完成した後の 2 年目に、関連する技術の爆発的な発展に直面しながら修正と再投稿を行い、ついに 2023 年の終わりに受け入れられました。ここでも、指導教員と共同研究者に対しての仕事への肯定とサポートに特に感謝したいと思います。
他のいくつかの主導および共同の仕事は順調ではありませんでしたが、これらは予想を大きく超えるものではありませんでした。研究者の宿命は、自信に満ちた自己否定の間で平穏な人生を見つけることです。博士課程はおそらく一つの研究に完全に集中できる最後の職業生涯であり、将来的には複数の仕事を並行して管理する能力を高めることを願っています。
余暇についての考え#
時間はあっという間に潜在的な学界の終わりに近づいています(おそらく)。最近、ヘッドハンターからの誘いを頻繁に受けるようになりました。私の周りの統計によると、今年最も求められている分野はマルチモーダルな大規模モデルと量的取引です。
国内の金融市場の成熟度を考慮して、量的取引市場については深く理解しませんでしたが、マルチモーダルな大規模モデルの仕事には次々と取り組んでいます。BERT から LLAMA、ViT から Diffusion、MoE から RLHF まで、基礎的な機械学習の理論的な研究を行っている私には、大規模モデルの経験があるかどうかを尋ねられると、少し奇妙な感じがします。私の仕事の経験は非常に明確に書かれており、いくつかの基礎的な機械学習の理論、AI+Web3 の PoC がありますが、OpenAI や MetaAI での仕事経験はありません(笑)。おそらくこれが異業種の壁であり、私たちは自分の専門知識をあまりにも当たり前のものと見なし、本当に必要な生活の常識を古代の神秘的な言葉と見なしてしまうのです。
今年の会議で、LLM の Prompt や Tuning に関する多くの研究を見ましたが、私は自分が手工業者がジェニー織機の最適化問題に取り組んでいるような感じがしました。情報の取得、検索、配信は常にインターネットの中核機能であり、私たちの技術的な蓄積、ガバナンスのルール、倫理基準はこの大きな変革に対応する準備ができているのでしょうか、私ははっきりとは言えませんが、この問題は長期間にわたって続くでしょう。なぜなら、Ilya Bengio などの学術界で最も優れた人々ですらまだ試行錯誤の初めに過ぎないからです。
趣味についての考え#
2022 年には微信读书で約 50 冊の本を読みましたが、今年は統計を取っていませんが、おそらく少なくなるでしょう。ただし、自分の研究分野以外の記事、ブログ、実体書籍をより多く読んでいますので、全体的な読書量には大きな違いはありません。
以前に推薦システムに関連する仕事をしたため、今年も「自分で情報を取得することを決める」ということを続けています。ソフトウェアプラットフォームが提供する推薦情報フィードに時間を費やすことはほとんどありませんし、ショートビデオアプリもダウンロードしていません。私たちの貴重な時間と注意力は商品として消費されるべきではありません。
Machine is Learning、Humans are Hooked。これは私たち機械学習研究者が目指す未来ではありません。それは反ユートピア的なサイバーパンクの物語です。今年はサイバーパンク 2077 の DLC もプレイし、自分自身でバイリンガルを月に送りました。まるで V と Rebecca のように。EVA、攻殻機動隊、2077、バイオショックの物語が一瞬でつながり、月は希望という微かな光です。
そして、2023 年の終わりに私は月に到着しました(続く)。