この案件は募集終了しました
条件にあう案件が見つからない場合、エージェントに相談してみることをおすすめします。 この案件に類似する非公開案件の紹介やキャリアカウンセリングを無料で行ってくれます。
Python MLOpsエンジニア|公共系オンプレLLM基盤構築とAIチャットボット開発
案件サマリー
LLM活用、Linux、Pythonの経験を活かし、公共系向けオンプレLLM基盤を構築する案件です。vLLMとGPUを用いて推論基盤を整備し、AIチャットボットの開発支援も担当します。
この案件のおすすめポイント
- vLLMやH100等の最新技術でオンプレLLM基盤構築スキルを磨く。
- インフラ構築からチャットボット開発まで、LLMの全工程に携わる。
- 高需要な公共系オンプレ環境でのLLM導入実績は市場価値を高める。
案件の内容
オンプレ環境におけるローカルLLM基盤(vLLM)とGPUサーバ(H100クラス×3)を構築し、GitLab Duo等のオンプレでのAIコーディング支援利用に向けた推論基盤整備を行っていただきます。 GPU調達待ちの間はプロンプトエンジニアリング中心の事前検証を行い、将来的なRAG構築やファインチューニングの検討・実装にも携わっていただきます。 加えて、LLMを活用したAIチャットボットの会話設計・意図判定・プロンプト整備などの開発支援も担当いただきます。 初期セットアップ作業は三鷹拠点での物理サーバ作業が発生しますので対応をお願いします。
必須スキル
LLM活用(プロンプトエンジニアリング・RAG・モデル評価) Linuxサーバ構築・運用 Pythonによる開発経験 公共系のセキュリティ要件下での対応 新技術のキャッチアップ意欲
歓迎スキル
GitLab(CI/CD)経験 オンプレ環境でのサーバ構築・NW・ストレージ知識 vLLMによるオンプレ推論基盤構築・運用経験 LLMベースのチャットボット開発経験
面談回数
2回
作業開始時期
即日
募集人数
1人
リモート
フルリモート
作業開始/終了時間の目安
10:00-18:30(7.5h)
案件担当のコメント
オンプレでのLLM基盤構築とチャットボット開発の両方に携わる案件です。物理サーバの初期セットアップがあるため現地対応が可能な方を歓迎します。
フリーランスボードからのアドバイス
オンプレミス環境でのLLM基盤構築は、市場で非常に貴重な経験となります。特にvLLMやH100といった最新技術に触れられる機会は滅多にありません。インフラ構築だけでなく、プロンプトエンジニアリングやAIチャットボット開発まで一気通貫で携わることで、生成AI分野での専門性を格段に高められるでしょう。この経験は、今後ますます需要が高まるセキュアなAI開発領域で、あなたのキャリアを大きく飛躍させるはずです。
企業名
サンプル企業名株式会社
サービス/プロジェクト名
サービス/プロジェクト名
詳細スケジュール/リリース時期
詳細スケジュール/リリース時期は面談時にお伝えします
詳細スケジュール/リリース時期は面談時にお伝えします
詳細スケジュール/リリース時期は面談時にお伝えします
詳細スケジュール/リリース時期は面談時にお伝えします
詳細スケジュール/リリース時期は面談時にお伝えします
現場責任者の雰囲気
現場責任者の雰囲気は面談時にお伝えします。
現場責任者の雰囲気は面談時にお伝えします。
現場責任者の雰囲気は面談時にお伝えします。
現場責任者の雰囲気は面談時にお伝えします。
現場責任者の雰囲気は面談時にお伝えします。
開発体制の詳細
サンプル: エンジニア8名(バックエンド4名、フロントエンド3名、QA1名)
案件探しはAIに。あなたは確認だけ。
AIエージェントが40万件の案件からあなた専用の提案。利用中のフリーランスは平均より月10万円以上の高単価を実現しています。
この案件に似た条件で検索する
AIエンジニア, インフラエンジニア, バックエンドエンジニア
Python, Linux, OpenAI
東京都
60-65万円