真面目なブログは http://repose.hatenadiary.jp

2024年振り返り

2024年のまとめを書きます.

年末はいつもこれを聞いています.

良かった音楽

(今年リリースされた曲の) 再生回数トップ5

本当に良い.これでようやく ≠ME が分かりました.

好きなタイプの内田真礼さん.

(秋元康あるあるですが) ラップのような歌詞がそこまでラップではないことを差し引いてもとても良かったです.

MV の雰囲気もとても好きです.

癖になりました.

再生回数とは別に良かった曲

良かったですね.

Tele は今年リリースが多かったですがこれが一番好きです.

今年リリースじゃないけど今年出会って良かった曲

「今日は誰に恋をする?」公演ではじめて聞いたのですが本当に良かったです.

買って良かったもの

高くないもの

  • オーケーのベーグル
    • 冷蔵庫を新調したので買い溜めしている
  • スモークサーモン(100g×10パック) - 千葉県長生村
    • ふるさと納税のスモークサーモン
    • 小分けになっていて便利,色や味付けが派手ではないのでベーグルに挟んで朝食にしている
  • JINS のメガネフレームに色・度付きレンズを入れたサングラス
    • フレームは JINS HOME® UGF-23A-075 123
    • 今年は夏,というよりゴールデンウィークあたりから日差しの強さにそろそろ耐えられなくなってきて,散歩中にめまいや吐き気を催すことが増えてしまった
    • JINS のフレームならたとええ失敗したり雑に扱っても後悔しないだろう」という理由で作ったら想像以上に良かったので来年も使い続けようと思います
    • これに限らず「サングラスをかけるなんて……」といった謎の自意識? のようなものが自分の中で気付いたら消えていたように思います
  • 「じぶんまくら」のオーダー枕
    • これまで30年ほど枕を使わずに暮らしていたものの,引っ越しを期にマットレスを変えたら起きた時の首や肩の違和感がすごくなった
    • セミオーダー枕に変えたところ,寝起きも寝付きも非常に快適になったので良かったです
  • Aesop のハンドクリーム
    • 家で使うので瓶に入ったものを買いました,久しぶりに買いましたがとても良いですね
      • どうか持ち歩きに便利な容器になって欲しいのですが
    • 名前が変わっていてちょっと分からなかったです,昔はレスレクションと呼ばれていたはず
  • GitHub Copilot
    • 想像以上に便利で「Rubyeach_slicePython でどう書いただろう」みたいな時に特に助かっています
  • Dell S2722QC 27インチ 4K モニター
    • コロナ禍突入時に挫折した大きなモニタに再挑戦
    • モニターアームで目からの距離を離したりした結果,前回のように酔うこともなく無事に使えています
  • 白Tシャツはさまよった結果,夏場は乾燥で縮むことを見越して Beefy の 3XL,それ以外の季節のインナーは FRUIT OF THE LOOM が良いだろうという結論に至りました
    • Beefy はタグが無いのが良い

高いもの

  • 引っ越し
    • 一人暮らしを始めて18年経ちましたがようやく洗面台と浴室が分かれたり,1K 以上の部屋に住みました
    • 引越し業者は大量の粗大ゴミ (脚付きマットレスや洗濯機,冷蔵庫,その他細かいゴミもすべて) を引き取ってくれて見積もりや連絡のやり取りがスムーズだったアップル引越センターがとても良かったので次回引っ越す際も利用したいです
  • MOMO NATURAL のソファ
    • 引っ越したら絶対ソファを買うと決めていて引っ越し翌日に買いましたが本当に良い,仕事用の机かソファの上かどちらかにしかいない
  • 無印の掛け布団 (羽毛掛ふとん・中厚手)
    • これまでかなりの安物を使っていたせいで冬は掛け布団に毛布を被せていましたが,これは軽いのに暖かくて良かった,毛布を使わずに冬を乗り越えられそう

読んだり見たりしたもの

良かった論文

  • Proving Test Set Contamination in Black-Box Language Models (ICLR 2024)
    • ある学習データがモデル学習に用いられているかどうかを検証する手法として,学習データの順序を保った文章と並び替えた文章との尤度を比較すれば良さそう,という話
    • LLM の丸暗記性をシンプルに利用するのがすごいと思いました
  • CXSimulator: A User Behavior Simulation using LLM Embeddings for Web-Marketing Campaign Assessment (CIKM 2024)
    • アクセスログからユーザ行動をシミュレーションしたい」というのは確かによくあって,ページ間の遷移行列を構築するのはよくある
    • その一方で,それではどうしても手元のログだけではログに含まれない行動 (e.g. 新たなページへのアクセスなど) がシミュレーションできない
    • そこで,ページのメタ情報を特徴量として,遷移行列をリンク予測として推定することで,未知ページへの遷移も推定できる,というのが「確かに〜〜〜〜〜〜」となる論文でした
  • AI generates covertly racist decisions about people based on their dialect (Nature, 2024)
    • 標準的な英語である Standardized American English (SAE) と方言である African American English (AAE) とを比較すると,LLM は AAE に対してより差別的な判断を行う,という話
    • 「LLM はどう差別するのか?」という話ですが,The Princeton Trilogy というステレオタイプ研究の古典を活用している
      • これは,「特定の人種に対して84の単語のうち,どれを思い浮かべるか?」と聞く研究を複数年行ったもの
      • LLM でも同様にやると,AAE おける top5 の単語を直接観測する (overt) と差別していないものの,SAE の出力確率の差分を取る (covert) と差別的な単語が選ばれやすくなり,特に1933年の人間に対する調査の結果と相関が強くなる,という話
    • 確認方法も面白いし, 古典である The Princeton Trilogy との関係を絡めて議論するのが好きです
  • Predicting Elections: Child's Play! (Science,2009)
    • 同僚に教わった論文.実際の選挙の立候補者の写真をそうとは伝えずに子どもに見せて選ばせると実際の選挙結果に近い結果が得られた,という話
  • 新しいことをやろうとするたびに様々な古くて面白い論文が出てくるので非常に楽しいのですがきりがない,面白い論文を読み尽くせないまま死ぬのだろうし悲しい

漫画,本

映画など

生活

  • ついに昨日38歳になりましたが何も変わっていません
    • 変わらず声優ラジオを聞き,アイドルのオタクをやり,社内 slack で誰の相手にもされない愚痴を書きながら残業しています
  • みなさんのように「今年はこれだけ仕事や研究が大成功しました」というものが何も無い
    • とにかく昨年以上に忙しく,かつ,忙しさの種類が変わったように思います
      • コードを書いたり自分で何かを考える時間が減ってしまっているのが良くない
    • みなさんが出世や成果を出し,結婚して子どもを育てているというのに僕は残業しながらアイドルの配信を見つつ VSCode の矩形選択のやり方を検索しています.人生の格差
    • とはいえ毎年自分の中で掲げている「毎年ひとつでいいから新しいタスクに取り組む」という目標があり,今年も無事達成できたのが良いのではないでしょうか
      • 少し真面目な,かつ,抽象的な話をすると大規模モデルの内部構造や追加学習,さまざまな組織がリリースする新たなモデルといった話題には興味があまりなく,それよりもひとまず black-box なモデルと見なした上でその振る舞いを確かめたい,より具体的には「何ができるか?」ではなく「何ができないのか?」を知りたいという気持ちが強くなる一年でした
      • たとえるなら,宇宙人が落としていった謎の機械を分解することなく,外部からハンマーで思いっきり殴ったらどんな音がするのか? に近いと思います
  • 体調
    • 頭痛薬を飲む頻度が減った代わりに,3月から咳喘息が出たり止んだりしておりじわじわと体力が削られる感触があります
    • 健康診断で「中性脂肪が少なすぎる」と指摘されたために昼食をちゃんと (おにぎり1個程度) 食べるようになり,体重も上向きです (8月の平均体重55.8kg → 現時点の平均体重 57.6kg)
    • ささいなことですが,手のひら,特に拳のあたりが乾燥するようになりました