Instâncias GPU em nuvem reservadas e sob demanda para treinamento e inferência de ML. Use quando você precisar de instâncias GPU dedicadas com acesso SSH simples, sistemas de arquivos persistentes ou clusters multi-node de alto desempenho para treinamento em larga escala.
インストールする前に、エージェントに与えられる指示の中身を確認できます。
Guia abrangente para executar cargas de trabalho de ML em GPU cloud da Lambda Labs com instâncias sob demanda e Clusters 1-Click.
Use Lambda Labs quando:
Características principais:
Use alternativas:
# Obtenha IP da instância do console
ssh ubuntu@<INSTANCE-IP>
# Ou com chave específica
ssh -i ~/.ssh/lambda_key ubuntu@<INSTANCE-IP>
| GPU | VRAM | Preço/GPU/hr | Melhor Para |
|---|---|---|---|
| B200 SXM6 | 180 GB | $4.99 | Maiores modelos, treinamento mais rápido |
| H100 SXM | 80 GB | $2.99-3.29 | Treinamento de modelos grandes |
| H100 PCIe | 80 GB | $2.49 | H100 com melhor custo-benefício |
| GH200 | 96 GB | $1.49 | Modelos grandes com uma GPU |
| A100 80GB | 80 GB | $1.79 | Treinamento em produção |
| A100 40GB | 40 GB | $1.29 | Treinamento padrão |
| A10 | 24 GB | $0.75 | Inferência, fine-tuning |
| A6000 | 48 GB | $0.80 | Bom ratio VRAM/preço |
| V100 | 16 GB | $0.55 | Treinamento com orçamento limitado |
8x GPU: Melhor para treinamento distribuído (DDP, FSDP)
4x GPU: Modelos grandes, treinamento multi-GPU
2x GPU: Cargas de trabalho médias
1x GPU: Fine-tuning, inferência, desenvolvimento
Todas as instâncias vêm com Lambda Stack pré-instalado:
# Software incluído
- Ubuntu 22.04 LTS
- NVIDIA drivers (versão mais recente)
- CUDA 12.x
- cuDNN 8.x
- NCCL (para multi-GPU)
- PyTorch (versão mais recente)
- TensorFlow (versão mais recente)
- JAX
- JupyterLab
# Verificar GPU
nvidia-smi
# Verificar PyTorch
python -c "import torch; print(torch.cuda.is_available())"
# Verificar versão CUDA
nvcc --version
pip install lambda-cloud-client
import os
import lambda_cloud_client
# Configure com chave API
configuration = lambda_cloud_client.Configuration(
host="https://cloud.lambdalabs.com/api/v1",
access_token=os.environ["LAMBDA_API_KEY"]
)
with lambda_cloud_client.ApiClient(configuration) as api_client:
api = lambda_cloud_client.DefaultApi(api_client)
# Obtenha tipos de instância disponíveis
types = api.instance_types()
for name, info in types.data.items():
print(f"{name}: {info.instance_type.description}")
from lambda_cloud_client.models import LaunchInstanceRequest
request = LaunchInstanceRequest(
region_name="us-west-1",
instance_type_name="gpu_1x_h100_sxm5",
ssh_key_names=["my-ssh-key"],
file_system_names=["my-filesystem"], # Opcional
name="training-job"
)
response = api.launch_instance(request)
instance_id = response.data.instance_ids[0]
print(f"Launched: {instance_id}")
instances = api.list_instances()
for instance in instances.data:
print(f"{instance.name}: {instance.ip} ({instance.status})")
from lambda_cloud_client.models import TerminateInstanceRequest
request = TerminateInstanceRequest(
instance_ids=[instance_id]
)
api.terminate_instance(request)
from lambda_cloud_client.models import AddSshKeyRequest
# Adicionar chave SSH
request = AddSshKeyRequest(
name="my-key",
public_key="ssh-rsa AAAA..."
)
api.add_ssh_key(request)
# Listar chaves
keys = api.list_ssh_keys()
# Deletar chave
api.delete_ssh_key(key_id)
curl -u $LAMBDA_API_KEY: \
https://cloud.lambdalabs.com/api/v1/instance-types | jq
curl -u $LAMBDA_API_KEY: \
-X POST https://cloud.lambdalabs.com/api/v1/instance-operations/launch \
-H "Content-Type: application/json" \
-d '{
"region_name": "us-west-1",
"instance_type_name": "gpu_1x_h100_sxm5",
"ssh_key_names": ["my-key"]
}' | jq
curl -u $LAMBDA_API_KEY: \
-X POST https://cloud.lambdalabs.com/api/v1/instance-operations/terminate \
-H "Content-Type: application/json" \
-d '{"instance_ids": ["<INSTANCE-ID>"]}' | jq
Filesystems persistem dados entre reinicializações de instância:
# Local de montagem
/lambda/nfs/<FILESYSTEM_NAME>
# Exemplo: salvar checkpoints
python train.py --checkpoint-dir /lambda/nfs/my-storage/checkpoints
Filesystems devem ser anexados no tempo de inicialização da instância:
file_system_names na solicitação de inicialização# Armazenar em filesystem (persiste)
/lambda/nfs/storage/
├── datasets/
├── checkpoints/
├── models/
└── outputs/
# SSD local (mais rápido, efêmero)
/home/ubuntu/
└── working/ # Arquivos temporários
# Gere chave localmente
ssh-keygen -t ed25519 -f ~/.ssh/lambda_key
# Adicione chave pública ao console Lambda
# Ou via API
# Na instância, adicione mais chaves
echo 'ssh-rsa AAAA...' >> ~/.ssh/authorized_keys
# Na instância
ssh-import-id gh:username
# Encaminhar Jupyter
ssh -L 8888:localhost:8888 ubuntu@<IP>
# Encaminhar TensorBoard
ssh -L 6006:localhost:6006 ubuntu@<IP>
# Múltiplas portas
ssh -L 8888:localhost:8888 -L 6006:localhost:6006 ubuntu@<IP>
# Na instância
jupyter lab --ip=0.0.0.0 --port=8888
# Da máquina local com tunnel
ssh -L 8888:localhost:8888 ubuntu@<IP>
# Abra http://localhost:8888
# SSH para instância
ssh ubuntu@<IP>
# Clone repo
git clone https://github.com/user/project
cd project
# Instale dependências
pip install -r requirements.txt
# Treine
python train.py --epochs 100 --checkpoint-dir /lambda/nfs/storage/checkpoints
# train_ddp.py
import torch
import torch.distributed as dist
from torch.nn.parallel import DistributedDataParallel as DDP
def main():
dist.init_process_group("nccl")
rank = dist.get_rank()
device = rank % torch.cuda.device_count()
model = MyModel().to(device)
model = DDP(model, device_ids=[device])
# Training loop...
if __name__ == "__main__":
main()
# Iniciar com torchrun (8 GPUs)
torchrun --nproc_per_node=8 train_ddp.py
import os
checkpoint_dir = "/lambda/nfs/my-storage/checkpoints"
os.makedirs(checkpoint_dir, exist_ok=True)
# Salve checkpoint
torch.save({
'epoch': epoch,
'model_state_dict': model.state_dict(),
'optimizer_state_dict': optimizer.state_dict(),
'loss': loss,
}, f"{checkpoint_dir}/checkpoint_{epoch}.pt")
Clusters Slurm de alto desempenho com:
# Em cluster Slurm
srun --nodes=4 --ntasks-per-node=8 --gpus-per-node=8 \
torchrun --nnodes=4 --nproc_per_node=8 \
--rdzv_backend=c10d --rdzv_endpoint=$MASTER_ADDR:29500 \
train.py
# Encontre IP privado
ip addr show | grep 'inet '
# 1. Iniciar instância 8x H100 com filesystem
# 2. SSH e configuração
ssh ubuntu@<IP>
pip install transformers accelerate peft
# 3. Baixe modelo para filesystem
python -c "
from transformers import AutoModelForCausalLM
model = AutoModelForCausalLM.from_pretrained('meta-llama/Llama-2-7b-hf')
model.save_pretrained('/lambda/nfs/storage/models/llama-2-7b')
"
# 4. Fine-tune com checkpoints em filesystem
accelerate launch --num_processes 8 train.py \
--model_path /lambda/nfs/storage/models/llama-2-7b \
--output_dir /lambda/nfs/storage/outputs \
--checkpoint_dir /lambda/nfs/storage/checkpoints
# 1. Iniciar instância A10 (custo-efetivo para inferência)
# 2. Execute inferência
python inference.py \
--model /lambda/nfs/storage/models/fine-tuned \
--input /lambda/nfs/storage/data/inputs.jsonl \
--output /lambda/nfs/storage/data/outputs.jsonl
| Tarefa | GPU Recomendada |
|---|---|
| Fine-tuning de LLM (7B) | A100 40GB |
| Fine-tuning de LLM (70B) | 8x H100 |
| Inferência | A10, A6000 |
| Desenvolvimento | V100, A10 |
| Máximo desempenho | B200 |
| Problema | Solução |
|---|---|
| Instância não inicia | Verifique disponibilidade de região, tente GPU diferente |
| Conexão SSH recusada | Aguarde inicialização da instância (3-15 min) |
| Dados perdidos após encerramento | Use filesystems persistentes |
| Transferência de dados lenta | Use filesystem na mesma região |
| GPU não detectada | Reinicie instância, verifique drivers |
まだレビューはありません。使ってみた感想をお寄せください。
概要と使いどころ
Especialista em construir experiências 3D para a web - Three.js, React Three Fiber, Spline, WebGL e cenas 3D interativas. Cobre configuradores de produtos, portfólios 3D, websites imersivos e adição de profundidade às experiências web. Use quando: website 3D, three.js, WebGL, react three fiber, experiência 3D.
日本語の概要は準備中です。原文の説明を表示しています。
Quando o usuário quer planejar, projetar ou implementar um teste A/B ou experimento. Também use quando o usuário menciona "teste A/B", "split test", "experimento", "testar essa mudança", "copy variante", "teste multivariado" ou "hipótese". Para implementação de rastreamento, veja analytics-tracking.
日本語の概要は準備中です。原文の説明を表示しています。
Auditar e melhorar a acessibilidade web seguindo as diretrizes WCAG 2.1. Use quando solicitado para "melhorar acessibilidade", "auditoria a11y", "conformidade WCAG", "suporte a leitor de tela", "navegação por teclado" ou "tornar acessível".
日本語の概要は準備中です。原文の説明を表示しています。
Testes e benchmarking de agentes LLM incluindo testes comportamentais, avaliação de capacidades, métricas de confiabilidade e monitoramento em produção—onde até os melhores agentes alcançam menos de 50% em benchmarks do mundo real. Use quando: testes de agentes, avaliação de agentes, benchmark de agentes, confiabilidade de agentes, teste de agentes.
日本語の概要は準備中です。原文の説明を表示しています。
Criar, gerenciar e orquestrar agentes de IA usando o CLI AI Maestro. Use quando o usuário pedir para "criar agente", "listar agentes", "deletar agente", "hibernar agente", "despertar agente", "instalar plugin", "mostrar agente", "reiniciar agente" ou qualquer tarefa de gerenciamento do ciclo de vida do agente.
日本語の概要は準備中です。原文の説明を表示しています。
Gerencie múltiplos agentes CLI locais via sessões tmux (iniciar/parar/monitorar/atribuir) com agendamento compatível com cron.
日本語の概要は準備中です。原文の説明を表示しています。