【LLMコア構築事前学習】Research Engineer/Research Scientist

職種

ネットワーク／データベース／サーバー

勤務地

東京都港区海岸一丁目7番1号

年収

650万～1,800万円

仕事内容

【ミッション】
・大量の計算機を用いた大規模言語モデルの構築
・大規模計算のためのコード開発
・大規模言語モデル構築におけるデータ生成・整備
・コード生成のための大規模言語モデルの構築
【具体的な業務】
・100Bパラメータを超える大規模言語モデルを大量の計算機を用いて学習を行う
・計算コストに対して効率良く性能を向上させるためのデータ整備

【仕事の魅力】
国内最大規模の計算基盤を用いて100Bパラメータを超える言語モデル構築に携わることができます

【会社概要】
ソフトバンクグループ内の生成AIに関する知見を持つメンバーが集まり、「日本語に特化したLLM（大規模言語モデル）」の研究開発を行うために2023年3月に設立されたAI研究開発企業です。

「世界に肩を並べる日本発の生成AIを創る」ことを目指し、将来的な「AGI（汎用人工知能）」や「ASI（人工超知能）」の実現を見据えた研究、そして社会実装に向けた開発を進めています。
？ 公式X：https://x.com/sbintuitions

【設立の背景】
ソフトバンクが以前より注目してきた生成AI領域において、グループ内の専門人材が集結し、LLM研究を開始したことがきっかけです。
「日本語に特化したLLMの構築」を目標に、日本の商習慣や文化、言葉のニュアンスまで正確に理解するAIの実現を追求しています。

【日本語特化のLLMに挑む理由】
現在、大規模なLLMの多くは海外製であり、日本語や国内ビジネス特有の文脈を十分に理解していないという課題があります。国産LLMであれば
・「休眠口座」など日本語特有の言い回しを正しく理解
・学習データの透明性・安全性を自社で管理
・日本企業の業務に自然に馴染む応答が可能
これにより、生成AIの活用における懸念を払拭し、より多くの企業や自治体での導入促進を目指しています。

【国産LLMを実現できる理由】
SB Intuitionsには、生成AIの開発経験を持つ優秀なエンジニアや自然言語処理の専門研究者が集結しています。
さらに、親会社であるソフトバンクは「AIとの共存を支える次世代社会インフラの実現」を掲げ、経済産業省のクラウドプログラムによる助成を受けながら約1500億円規模の計算基盤を整備中。
同社はそのリソースを活用し、独自の国産LLM開発を進めています。

【今後のビジョン】
今後は汎用モデルの研究開発を進めるとともに、日本の業界・業種に特化したAIモデルを提供していく計画です。
特に以下の分野での活用を想定しています
・医療
・金融
・法律
・自治体・公共機関
国内開発による安心感と高い日本語理解力を強みに、社会実装を進めていきます。

また、日本では海外AIサービス利用に伴うデジタル赤字が拡大していますが、国産LLMの構築・提供を通じて、その削減にも貢献していきます。

応募条件

【必須】
・深層学習を用いたモデル構築経験および大規模計算を伴う研究開発経験
・高いコーディング力（Python必須）
・GitHubなどのソフトウェア開発プラットフォームを使ったチームでの開発経験
・情報系もしくはそれに類する分野での学位
【歓迎】
・情報系もしくはそれに類する分野での博士号
・トップ国際会議への論文採択経験
・プロジェクトリーダー/サブリーダー経験
・分散並列環境の構築・該当環境を効率的に運用するコード開発経験
・大規模言語モデル構築におけるWebデータの整備経験

休日休暇

慶弔休暇　年末年始　有給休暇　週休2日制(土曜日および日曜日)、国民の祝日、 年末年始(12月29日～1月3日)、その他会社が指定した日

年間休日数

126日

就業時間

09:00～17:45

企業概要

■日本語に特化した国産の大規模言語モデルの研究開発、生成AIサービスの開発、販売、提供
・日本語特化の大規模言語モデル（LLM）の研究開発
SB Intuitionsは、日本語の言語特性や文化的背景を深く理解した国産の大規模言語モデルをゼロから構築しています。ソフトバンクが保有する高性能な計算基盤を活用し、独自の日本語データセットを用いてスクラッチ開発を行っています。
・生成AIサービスの開発・提供
研究開発した日本語特化のLLMを基盤とし、産業、教育、文化、芸術など多岐にわたる分野での応用を目指した生成AIサービスの開発・提供を進めています。
・技術パートナーシップの推進
大学、研究機関、企業との協業を通じて、生成AI技術のさらなる高度化と応用展開を追求しています。
・安全性とデータ管理の強化
国内のデータセンターでデータを厳格に管理し、安全性の高い環境での開発を実施。

＜国産の大規模言語モデル（LLM）の開発を行う「SB Intuitions株式会社」が本格的に稼働＞
SB Intuitions株式会社は、ソフトバンクが設立した日本語に特化した国産の大規模言語モデル（LLM：Large Language Models）の研究開発と生成AI（人工知能）サービスの開発、販売、提供を目的とする新会社です。
ソフトバンクは、経営理念である「情報革命で人々を幸せに」の実現に向けて、AIの利活用を積極的に推進しています。また、生成AIを、この取り組みをさらに加速させる革新的なテクノロジーであると位置付け、さまざまな取り組みを行っています。2023年度中には、生成AIの開発などに活用できる、高いデータ処理能力を有する計算基盤を構築し、大学や研究機関、企業などを対象に早期にサービスを提供する予定です。SB Intuitionsは、この計算基盤上で、大規模言語モデルの学習に必要なデータセットやツール、追加強化学習モデルなどの開発を行います。日本語に特化した大規模言語モデルを開発することにより、日本のお客さまに特有のニーズに合った生成AIサービスを開発し、幅広い業種のお客さまに提供していきます。

従業員数

100人