Différences
Ci-dessous, les différences entre deux révisions de la page.
| Les deux révisions précédentes Révision précédente Prochaine révision | Révision précédente | ||
| eadl:bloc5:fm3:td2 [2026/09/27 20:03] – [1.6 Configurer les rôles IAM] jcheron | eadl:bloc5:fm3:td2 [2026/09/28 07:17] (Version actuelle) – [5.2 Vérifier les chemins S3] jcheron | ||
|---|---|---|---|
| Ligne 180: | Ligne 180: | ||
| - Le nombre de nœuds choisi suffit-il à démontrer une tolérance de panne réelle ? Pourquoi ? | - Le nombre de nœuds choisi suffit-il à démontrer une tolérance de panne réelle ? Pourquoi ? | ||
| - | ===== 1.5 Paire de clés EC2 (accès SSH) ===== | + | ===== 1.5 Réseau ===== |
| + | |||
| + | Sur un compte AWS standard, un **VPC par défaut** existe déjà dans chaque région, avec un subnet public dans chaque zone de disponibilité. EMR le sélectionne automatiquement : **il n'y a rien à créer ni configurer manuellement** pour ce TD. | ||
| + | |||
| + | Dans la section réseau de l' | ||
| + | |||
| + | 1. vérifiez que le VPC proposé est bien le VPC par défaut (``vpc-xxxxxxxx (default)``) ; | ||
| + | 2. un subnet est présélectionné : laissez la valeur proposée ; | ||
| + | 3. les security groups sont créés automatiquement par EMR (un pour le master, un pour les core/task) si vous ne modifiez rien. | ||
| + | |||
| + | Notez les valeurs proposées automatiquement : | ||
| + | |||
| + | ^ Paramètre réseau ^ Valeur ^ Observation ^ | ||
| + | | VPC | | par défaut | | ||
| + | | Subnet | | public (zone de disponibilité) | | ||
| + | | Security group master | | créé automatiquement par EMR | | ||
| + | | Security group core/task | | créé automatiquement par EMR | | ||
| + | | Adresse publique du master | | oui, par défaut sur subnet public | | ||
| + | |||
| + | <WRAP tip round> | ||
| + | Le security group du master créé par défaut n' | ||
| + | </ | ||
| + | |||
| + | Répondez : | ||
| + | |||
| + | - Pourquoi un cluster peut-il avoir besoin d'une communication interne même si vous ne vous connectez qu'au master ? | ||
| + | - Pourquoi les nœuds core et task ne doivent-ils généralement pas être ouverts directement à Internet ? | ||
| + | - Dans Docker Compose, quelles règles de réseau étaient implicites ou locales ? | ||
| + | ===== 1.6 Paire de clés EC2 (accès SSH) ===== | ||
| Pour pouvoir se connecter en SSH au nœud primaire du cluster (console, exécution manuelle de commandes Hadoop, consultation de fichiers de logs), une **paire de clés EC2** est nécessaire. | Pour pouvoir se connecter en SSH au nœud primaire du cluster (console, exécution manuelle de commandes Hadoop, consultation de fichiers de logs), une **paire de clés EC2** est nécessaire. | ||
| Ligne 208: | Ligne 236: | ||
| Dans la configuration du cluster EMR, section **Sécurité**, | Dans la configuration du cluster EMR, section **Sécurité**, | ||
| - | ===== 1.6 Rôles IAM ===== | + | ===== 1.7 Rôles IAM ===== |
| EMR nécessite deux rôles IAM pour fonctionner : | EMR nécessite deux rôles IAM pour fonctionner : | ||
| Ligne 249: | Ligne 277: | ||
| **Si l' | **Si l' | ||
| </ | </ | ||
| - | ===== 1.7 Choisir le réseau ===== | ||
| - | |||
| - | Dans la section réseau : | ||
| - | |||
| - | 1. sélectionnez le VPC pédagogique indiqué ; | ||
| - | 2. choisissez le subnet autorisé ; | ||
| - | 3. si le master doit être joint en SSH depuis Internet, vérifiez que le subnet est public et qu’une route vers une Internet Gateway existe, selon la consigne de l’enseignant ; | ||
| - | 4. choisissez ou créez les security groups recommandés par la formation ; | ||
| - | 5. activez l’accès SSH uniquement depuis votre adresse IP lorsque la console le permet, jamais depuis `0.0.0.0/0` sauf démonstration explicitement encadrée et immédiatement supprimée. | ||
| - | |||
| - | Notez : | ||
| - | |||
| - | ^ Paramètre réseau ^ Valeur ^ Observation ^ | ||
| - | | VPC | | | | ||
| - | | Subnet | | public, privé ou autre | | ||
| - | | Security group master | | ports autorisés | | ||
| - | | Security group core/task | | accès interne entre nœuds | | ||
| - | | Adresse publique du master | | oui / non | | ||
| - | |||
| - | Répondez : | ||
| - | |||
| - | - Pourquoi un cluster peut-il avoir besoin d’une communication interne même si vous ne vous connectez qu’au master ? | ||
| - | - Pourquoi les nœuds core et task ne doivent-ils généralement pas être ouverts directement à Internet ? | ||
| - | - Dans Docker Compose, quelles règles de réseau étaient implicites ou locales ? | ||
| - | ===== 1.7 Associer la clé SSH et créer le cluster ===== | + | ===== 1.8 Associer la clé SSH et créer le cluster ===== |
| 1. Sélectionnez la paire de clés EC2 fournie ou créée pour le TD. | 1. Sélectionnez la paire de clés EC2 fournie ou créée pour le TD. | ||
| Ligne 301: | Ligne 305: | ||
| </ | </ | ||
| - | Le nom d’utilisateur dépend de l’image | + | Le nom d’utilisateur dépend de l’image. Pour une AMI EMR standard, `hadoop` est couramment utilisé ; ne remplacez pas ce nom au hasard si la consigne de votre compte indique autre chose. |
| À la première connexion, vérifiez l’empreinte proposée. Si vous obtenez `Permission denied (publickey)`, | À la première connexion, vérifiez l’empreinte proposée. Si vous obtenez `Permission denied (publickey)`, | ||
| Ligne 616: | Ligne 620: | ||
| </ | </ | ||
| - | Hadoop refuse généralement d’écrire dans un répertoire de sortie déjà présent. Utilisez un nouveau préfixe ou supprimez uniquement votre ancien résultat de test si l’enseignant l’autorise. | + | Hadoop refuse généralement d’écrire dans un répertoire de sortie déjà présent. |
| ===== 5.3 Lancer le job ===== | ===== 5.3 Lancer le job ===== | ||