この案件は募集終了しました
条件にあう案件が見つからない場合、エージェントに相談してみることをおすすめします。 この案件に類似する非公開案件の紹介やキャリアカウンセリングを無料で行ってくれます。
Python MLOpsエンジニア|オンプレLLM基盤構築とAIチャットボット開発支援
案件サマリー
LLMを活用した開発やプロンプトエンジニアリング、RAGの知見をお持ちの方を募集します。公共系のオンプレ環境にて、vLLMと高性能GPUを用いたLLM推論基盤の構築と、AIチャットボット開発支援をご担当いただきます。物理サーバのセットアップから将来的なファインチューニングの検討まで、幅広い業務に携われる案件です。
この案件のおすすめポイント
- 最新のvLLMとGPUを活用し、オンプレLLM基盤構築の最先端スキルを習得。
- プロンプトからRAG、基盤まで、LLMの専門家としてキャリアを飛躍させる。
- 社会貢献性の高い公共系案件で、LLM活用の全工程を経験できるチャンス。
案件の内容
公共系のオンプレ環境にて、H100クラス相当GPU搭載サーバ3台を用いたvLLMによるローカルLLM推論基盤の構築、GitLab Duo等をオンプレで利用するための推論基盤整備、GPU調達待ち期間のプロンプトエンジニアリング中心の事前検証、将来的なRAG構築やファインチューニングの検討・実装、LLM活用によるAIチャットボットの会話設計・意図判定・プロンプト整備、及び物理サーバの初期セットアップ(三鷹拠点)をご対応いただきます。
業界
必須スキル
LLMを活用したシステム開発・検証 プロンプトエンジニアリング RAG モデル評価 Linuxサーバ構築・運用 Pythonによる開発経験 公共系のセキュリティ要件下での開発経験
歓迎スキル
GitLab(CI/CD)利用経験 オンプレ環境でのサーバ構築・NW・ストレージの基本知識 vLLMによるオンプレLLM推論基盤の構築・運用経験 LLMベースのチャットボット開発経験
面談回数
2回
作業開始時期
即日
リモート
一部リモート可
作業開始/終了時間の目安
10:00-18:30(7.5h)
案件担当のコメント
公共系のセキュリティ要件下でオンプレLLM基盤の構築やチャットボット開発に携わる案件です。ハードウェア寄せの初期構築やプロンプト中心の検証、RAGやファインチューニングの検討など幅広い経験が積めます。
フリーランスボードからのアドバイス
LLMの活用がクラウド中心に進む中、セキュリティ要件の厳しい公共系でのオンプレ構築は非常に貴重な経験となります。Pythonでの開発経験に加え、Linuxサーバの知見も存分に活かせます。特にvLLMと高性能GPUを用いた基盤構築にゼロから携われる機会は滅多にありません。プロンプトエンジニアリングから始め、将来的にはRAG構築やファインチューニングへとステップアップできるため、LLMエンジニアとして市場価値を格段に高めるキャリアパスを描けます。最先端技術に触れながら社会貢献もできるこのチャンスを、ぜひ掴んでください。
企業名
サンプル企業名株式会社
サービス/プロジェクト名
サービス/プロジェクト名
詳細スケジュール/リリース時期
詳細スケジュール/リリース時期は面談時にお伝えします
詳細スケジュール/リリース時期は面談時にお伝えします
詳細スケジュール/リリース時期は面談時にお伝えします
詳細スケジュール/リリース時期は面談時にお伝えします
詳細スケジュール/リリース時期は面談時にお伝えします
現場責任者の雰囲気
現場責任者の雰囲気は面談時にお伝えします。
現場責任者の雰囲気は面談時にお伝えします。
現場責任者の雰囲気は面談時にお伝えします。
現場責任者の雰囲気は面談時にお伝えします。
現場責任者の雰囲気は面談時にお伝えします。
開発体制の詳細
サンプル: エンジニア8名(バックエンド4名、フロントエンド3名、QA1名)
案件探しはAIに。あなたは確認だけ。
AIエージェントが40万件の案件からあなた専用の提案。利用中のフリーランスは平均より月10万円以上の高単価を実現しています。
この案件に似た条件で検索する
AIエンジニア, インフラエンジニア
Python, Linux, AWS
東京都
60-65万円