この案件は募集終了しました
条件にあう案件が見つからない場合、エージェントに相談してみることをおすすめします。 この案件に類似する非公開案件の紹介やキャリアカウンセリングを無料で行ってくれます。
Python MLOpsエンジニア|オンプレLLM基盤構築・AIチャットボット開発
案件サマリー
LLM活用経験、Python、Linuxスキルを活かし、公共系システム向けのオンプレLLM基盤構築に携わります。vLLMとH100クラスのGPUを用いた推論環境の構築、プロンプトエンジニアリング、RAG/ファインチューニングの検討、AIチャットボット開発支援まで、幅広く担当いただくポジションです。
この案件のおすすめポイント
- 最先端のvLLM/GPU技術を活用したオンプレLLM基盤構築スキルが身につく。
- 公共系システムでLLM基盤構築からチャットボット開発まで一貫して携われる。
- 需要急増中のオンプレLLM構築経験は、今後のキャリアで大きな強みとなる。
案件の内容
公共系システム向けに、H100クラス相当GPUを搭載したオンプレサーバ3台でのローカルLLM推論環境(vLLM)の構築と、GitLab Duo等をオンプレ環境で利用するための推論基盤整備を行っていただきます。 GPU調達待ち期間はプロンプトエンジニアリング中心の事前検証を実施し、将来的なRAG構築やファインチューニングの検討・実装も行っていただきます。 また、LLMを活用したAIチャットボットの開発支援(会話設計・意図判定・プロンプト整備)を担当していただき、物理サーバ作業に伴う三鷹拠点での初期セットアップ対応があります。
業界
必須スキル
LLMを活用したシステム開発または検証経験(プロンプトエンジニアリング、RAG、モデル評価等) Linuxサーバ構築・運用スキル Pythonによる開発経験 新技術のキャッチアップに前向きであること 公共系システムのセキュリティ要件・制約下での開発に前向きであること
歓迎スキル
GitLab(CI/CD)の利用経験 オンプレ環境でのサーバ構築・NW・ストレージの基本知識 vLLMによるオンプレLLM推論基盤の構築・運用経験 LLMベースのチャットボット開発経験
面談回数
2回
作業開始時期
即日
リモート
フルリモート
作業開始/終了時間の目安
10:00-18:30(実働7.5時間)/残業は事前許可必須
案件担当のコメント
オンプレのLLM基盤構築とチャットボット開発の両方に携われる案件です。GPUサーバでのセットアップやプロンプトエンジニアリングなど先端的な作業に関わりたい方に適しています。テレワーク中心の業務に、サーバ設置時の出社対応が必要です。
フリーランスボードからのアドバイス
クラウドでのLLM活用が主流の中、vLLMを用いたオンプレミスでのLLM基盤構築は非常に貴重な経験です。特に公共系という高いセキュリティが求められる環境での実績は、あなたの市場価値を大きく高めるでしょう。プロンプトエンジニアリングからRAG、インフラ構築まで幅広く携わることで、LLMの専門家として盤石なキャリアを築けます。このチャンスを活かして、唯一無二のスキルセットを確立しませんか。
企業名
サンプル企業名株式会社
サービス/プロジェクト名
サービス/プロジェクト名
詳細スケジュール/リリース時期
詳細スケジュール/リリース時期は面談時にお伝えします
詳細スケジュール/リリース時期は面談時にお伝えします
詳細スケジュール/リリース時期は面談時にお伝えします
詳細スケジュール/リリース時期は面談時にお伝えします
詳細スケジュール/リリース時期は面談時にお伝えします
現場責任者の雰囲気
現場責任者の雰囲気は面談時にお伝えします。
現場責任者の雰囲気は面談時にお伝えします。
現場責任者の雰囲気は面談時にお伝えします。
現場責任者の雰囲気は面談時にお伝えします。
現場責任者の雰囲気は面談時にお伝えします。
開発体制の詳細
サンプル: エンジニア8名(バックエンド4名、フロントエンド3名、QA1名)
案件探しはAIに。あなたは確認だけ。
AIエージェントが40万件の案件からあなた専用の提案。利用中のフリーランスは平均より月10万円以上の高単価を実現しています。
この案件に似た条件で検索する
AIエンジニア, インフラエンジニア, バックエンドエンジニア
Python, Linux, Git
東京都
60-65万円