はてなブックマーク

画像系に参加することが比較的多いですが、NLP系も嗜む程度にやったりしてます 参加スタイルはソロで始めてそこそこの順位になったあたりで声かけてもらった方とチームを組むパターンが多いです kaggleとの出会い コンペに興味を持ったきっかけは、kaggleについて紹介しているweb記事をたまたま見かけたことでした。 もともと新卒入社した会社でDeepLearning関連のプロジェクトをやっていたのですが、社内にあまりノウハウが確立されておらず手探りで案件を進める日々を送っていました。自分なりに技術書を読んだり、webにある情報をかき集めたりしながら何とかやっていたものの、我流でやり続けることに漠然とした不安を感じていました。 そんな中、しばらくして転職活動をしてる際にたまたまkaggle取り組みについて紹介している記事を見かけます。kaggle自体は知っていて5年くらい前にアカウントだけ作っ

はじめに 科学分野の5択問題を解くLLMの精度を競うKaggle - LLM Science Exam というkaggleコンペが2023/10/11まで開催されていました。 コンペ終了後に公開された上位チームの解法からたくさん学びがあったので、備忘録も兼ねてまとめていきたいと思います。 コンペ概要 問題文（prompt）とA~Eの選択肢（option）が与えられ、それを解くモデルの精度を競うコンペでした。 テストデータはSTEM分野のWikipedia記事からGPT3.5に作成させたことがDataタブで明言されていました。 上位チーム解法まとめ 1. Approach 全てのチームが、問題の生成元となった記事をwikiテキストデータセットから検索（Retrieval）し、関連するテキスト（context）もモデルに入力するRAGと呼ばれるアプローチを採用していました。 RAGを行わないと

はじめに 学生の書いたエッセイの評価予測を行うFeedback Prize 2022というkaggleコンペが2022/8/24まで開催されていました。 コンペ終了後に公開された上位チームの解法からたくさん学びがあったので、備忘録も兼ねてまとめていきたいと思います。 コンペ概要 米国の小学6年生〜高校3年生の学生が書いたessay（小論文）が"Effective（効果的）"、"Adequate（適切）"、"Ineffective（効果的ではない）"のどの評価であるかを予測するモデルの精度を競うコンペでした。 ただし、このコンペではessayごとではなく、essayを構成するdiscourse（談話）ごとの評価を予測します。 discourseにはそれぞれLead(導入)、Position(立場)などのdiscourse_typeが1つ与えられており、予測時にはこの情報を使用することができま

はじめに 画像からクジラの個体識別を行うHappywhaleというkaggleコンペが2022/4/19まで開催されていました。 コンペ終了後に公開された上位者の解法からたくさん学びがあったので、備忘録も兼ねてまとめていきたいと思います。 上位者解法まとめ 1. Datasets オリジナル検出器 多くの方が自分で学習させた検出器を使ってクジラ領域を切り出したデータセットを使用していました。 全身領域や背ビレ領域を切り出した公開データセットがありましたが、同じ領域を切り出すにしても、検出器が異なると多様性が生まれて精度が上がったようです。 公開されているデータセットの予測値をGTとして検出器を学習し、予測が外れているデータだけアノテーションし直して再学習を繰り返す工夫をしているチームもありました（引用：4th solution） bounding box mix augmentation