この案件は募集終了しました
条件にあう案件が見つからない場合、エージェントに相談してみることをおすすめします。 この案件に類似する非公開案件の紹介やキャリアカウンセリングを無料で行ってくれます。
Python MLOpsエンジニア|公共系オンプレLLM基盤構築・AIチャットボット開発
案件サマリー
LLMを活用したシステム開発、Linuxサーバ構築、Python開発の経験をお持ちの方を求めています。公共系のオンプレ環境にて、vLLMとGPUサーバを用いたローカルLLM基盤の構築からAIチャットボット開発までを支援する役割です。プロンプトエンジニアリングやRAG構築の検討など幅広く携わります。
この案件のおすすめポイント
- 最先端のオンプレLLM基盤構築に携わり、市場価値の高いスキルを習得できます。
- 需要急増中の生成AI分野で、公共系のセキュアな環境での開発経験を積めます。
- GPUインフラからチャットボット開発まで、フルスタックなAI経験が可能です。
案件の内容
公共系のオンプレ環境でのローカルLLM基盤(vLLM+GPUサーバ)構築およびAIチャットボット開発の支援をお願いします。 具体的には、H100相当のGPUを搭載したオンプレサーバ3台によるvLLM推論環境の構築、GitLab Duo等をオンプレで利用するためのLLM推論基盤整備、GPU調達待ち期間のプロンプトエンジニアリング中心の事前検証、将来的なRAG構築やファインチューニングの検討・実装、会話設計・意図判定・プロンプト整備などチャットボット開発支援、及び物理サーバの初期セットアップで三鷹拠点での作業対応を行っていただきます。
業界
必須スキル
LLMを活用したシステム開発または検証経験(プロンプトエンジニアリング、RAG、モデル評価等) Linuxサーバ構築・運用スキル Pythonによる開発経験 新技術のキャッチアップに前向きなこと 公共系システムのセキュリティ要件下での開発に前向きなこと
歓迎スキル
GitLab(CI/CD)の利用経験 オンプレ環境でのサーバ構築・NW・ストレージの基本知識 vLLMによるオンプレLLM推論基盤の構築・運用経験 LLMベースのチャットボット開発経験
面談回数
2回
作業開始時期
即日
リモート
一部リモート可
作業開始/終了時間の目安
10:00-18:30(7.5時間)
案件担当のコメント
公共系のオンプレLLM基盤構築案件です。GPUサーバを用いた推論環境構築と並行したチャットボット開発が中心で、セキュリティ要件下での経験が重視されます。
フリーランスボードからのアドバイス
LLMの活用経験を次のステージへ進めたい方に、またとない機会です。公共系というセキュリティ要件の厳しいオンプレ環境で、vLLMと最新GPUを用いたLLM基盤をゼロから構築します。これは非常に希少価値の高い経験となります。インフラからチャットボット開発まで一貫して関わることで、AIエンジニアとしての市場価値は飛躍的に高まるでしょう。ぜひチャレンジしてください。
企業名
サンプル企業名株式会社
サービス/プロジェクト名
サービス/プロジェクト名
詳細スケジュール/リリース時期
詳細スケジュール/リリース時期は面談時にお伝えします
詳細スケジュール/リリース時期は面談時にお伝えします
詳細スケジュール/リリース時期は面談時にお伝えします
詳細スケジュール/リリース時期は面談時にお伝えします
詳細スケジュール/リリース時期は面談時にお伝えします
現場責任者の雰囲気
現場責任者の雰囲気は面談時にお伝えします。
現場責任者の雰囲気は面談時にお伝えします。
現場責任者の雰囲気は面談時にお伝えします。
現場責任者の雰囲気は面談時にお伝えします。
現場責任者の雰囲気は面談時にお伝えします。
開発体制の詳細
サンプル: エンジニア8名(バックエンド4名、フロントエンド3名、QA1名)
案件探しはAIに。あなたは確認だけ。
AIエージェントが40万件の案件からあなた専用の提案。利用中のフリーランスは平均より月10万円以上の高単価を実現しています。
この案件に似た条件で検索する
AIエンジニア, インフラエンジニア
Python, Linux, AWS
東京都
60-65万円