Best practice per il provisioning e la configurazione automatici di sistemi e server edge e bare metal

Last reviewed 2024-07-31 UTC

Questo documento suggerisce le best practice per la progettazione e l'implementazione di processi di provisioning e configurazione affidabili e automatizzati per i dispositivi in esecuzione ai margini del tuo ambiente, ad esempio:

Leggi questo documento se progetti processi di provisioning e configurazione per dispositivi edge e sistemi e server bare metal o se vuoi saperne di più sulle best practice per il provisioning e la configurazione di questi tipi di dispositivi.

Questo documento non elenca tutte le possibili best practice per il provisioning e la configurazione di sistemi e server edge e bare metal e non garantisce il successo. Al contrario, ti aiuta a stimolare discussioni su potenziali modifiche e miglioramenti ai processi di provisioning e configurazione.

Questo documento fa parte di una serie di documenti che forniscono informazioni sulle architetture IoT su Google Cloud. Gli altri documenti di questa serie includono:

Il provisioning e la configurazione manuali di un ampio parco dispositivi sono soggetti a errori umani e non sono scalabili man mano che il parco dispositivi cresce. Ad esempio, potresti dimenticare di eseguire un'attività di provisioning o configurazione critica oppure potresti fare affidamento su processi parzialmente o completamente non documentati. I processi di provisioning e configurazione completamente automatizzati e affidabili aiutano a risolvere questi problemi. Inoltre, ti aiutano a gestire il ciclo di vita di ogni dispositivo, dalla produzione alla dismissione e allo smaltimento.

Terminologia

I seguenti termini sono importanti per comprendere come implementare e creare processi di provisioning e configurazione automatici per i tuoi dispositivi:

  • Dispositivo edge: un dispositivo di cui esegui il deployment ai margini del tuo ambiente, vicino ai dati che vuoi elaborare.
  • Processo di provisioning: l'insieme di attività che devi completare per preparare un dispositivo alla configurazione.
  • Processo di configurazione: l'insieme di attività che devi completare per preparare un dispositivo a funzionare in un ambiente specifico.
  • Gestione delle configurazioni: l'insieme di attività che esegui continuamente per gestire la configurazione dell'ambiente e dei dispositivi.
  • Immagine di base: un'immagine del sistema operativo (OS) o del firmware di base funzionante prodotta dalla tua azienda o da un produttore di dispositivi o sistemi operativi.
  • Immagine golden: un'immagine del sistema operativo o del firmware immutabile che crei per i tuoi dispositivi o che prepari da un'immagine di base. Le golden image includono tutti i dati e le informazioni di configurazione necessari ai dispositivi per svolgere le attività assegnate. Puoi preparare varie golden image per eseguire attività diverse. I sinonimi dei tipi di golden image includono flavors, spins e archetypes.
  • Immagine Silver: un'immagine del sistema operativo o del firmware che prepari per i tuoi dispositivi applicando modifiche minime a un'immagine Golden o a un'immagine di base. I dispositivi che eseguono un'immagine silver completano il provisioning e la configurazione al primo avvio, in base alle esigenze dei casi d'uso che devono supportare.
  • Dispositivo seed: un dispositivo che avvia l'ambiente senza dipendenze esterne.
  • Avvio di rete: l'insieme di tecnologie che consente a un dispositivo di ottenere software e tutte le informazioni di configurazione correlate dalla rete, anziché da un sistema di archiviazione collegato al dispositivo.

Per aiutarti a impostare gli obiettivi ed evitare problemi comuni, applica le best practice per il provisioning e la configurazione descritte nelle sezioni seguenti.

Automatizza i processi di provisioning e configurazione

Durante il primo avvio o ogni volta che è necessario, i dispositivi devono essere in grado di eseguire il provisioning e la configurazione utilizzando solo l'immagine software installata al loro interno.

Per evitare di implementare la logica necessaria durante i processi di provisioning e configurazione, puoi utilizzare strumenti che ti forniscono le primitive necessarie per orchestrare e implementare questi processi. Ad esempio, puoi utilizzare cloud-init e la sua origine dati NoCloud, insieme a uno script o a uno strumento di gestione delle configurazioni, come Ansible, Puppet o Chef, eseguito sull'host locale.

Per progettare processi di provisioning e configurazione affidabili, assicurati che tutti i passaggi e le attività eseguiti durante questi processi siano validi, possibilmente in modo automatico. Ad esempio, puoi utilizzare un framework di test di conformità automatizzato, come InSpec, per verificare che i processi di provisioning e configurazione funzionino come previsto.

Questa best practice ti aiuta a evitare single point of failure e la necessità di un intervento manuale quando devi completare il provisioning dispositivo e la configurazione.

Evita i dispositivi per usi speciali

Quando progetti i tuoi dispositivi edge, riduci al minimo la loro varianza in termini di scopo e specializzazione. Questo suggerimento non significa che tutti i dispositivi edge debbano essere uguali tra loro o condividere lo stesso scopo, ma che devono essere il più omogenei possibile. Ad esempio, puoi definire gli archetipi dei dispositivi in base ai tipi di workload che devono supportare. In questo modo, puoi eseguire il deployment e gestire i dispositivi in base alle proprietà di questi archetipi.

Per assicurarti di seguire questa best practice, verifica di poter scegliere un dispositivo a caso tra quelli di un determinato archetipo e poi procedi come segue:

  • Tratta il dispositivo come faresti con altri dispositivi dello stesso archetipo. In questo modo, dimostri di avere efficienza operativa.
  • Sostituisci il dispositivo con dispositivi dello stesso archetipo senza ulteriori personalizzazioni. In questo modo dimostri di aver implementato correttamente questi archetipi.

Questa best practice garantisce la riduzione della varianza nel parco dispositivi, con una conseguente minore frammentazione nell'ambiente e nei processi di provisioning e configurazione.

Utilizza i dispositivi seed per eseguire il bootstrap dell'ambiente

Durante il provisioning e la configurazione dei dispositivi, potresti riscontrare un problema di dipendenza circolare: i dispositivi hanno bisogno di un'infrastruttura di supporto per eseguire il provisioning e la configurazione, ma questa infrastruttura non è disponibile perché devi ancora eseguirne il provisioning e la configurazione.

Puoi risolvere questo problema con i dispositivi seed. I dispositivi seed hanno uno scopo speciale temporaneo. Dopo aver completato le attività per cui è stato progettato lo scopo speciale, il dispositivo adegua il proprio comportamento e stato all'archetipo pertinente.

Ad esempio, se utilizzi cloud-init per inizializzare automaticamente i tuoi dispositivi, potresti dover configurare un'origine dati NoCloud cloud-init nei seguenti modi:

  1. Fornisci i dati dell'origine dati NoCloud al dispositivo seed tramite un file system.
  2. Attendi che il dispositivo seed completi il provisioning e la configurazione con il suo scopo speciale, che include la fornitura dei dati dell'origine dati NoCloud ad altri dispositivi sulla rete.

    I processi di provisioning e configurazione sul dispositivo seed attendono finché non vengono soddisfatte le condizioni per abbandonare lo scopo speciale temporaneo del dispositivo seed. Ecco alcuni esempi di queste condizioni:

    • Ci sono altri dispositivi nell'ambiente che forniscono i dati dell'origine dati NoCloud sulla rete?
    • Ci sono abbastanza nodi nel cluster?
    • Il primo backup è stato completato?
    • Il sito di ripristino di emergenza è pronto?
  3. Esegui il provisioning e configura altri dispositivi che scaricano i dati dell'origine dati NoCloud dalla rete dal dispositivo seed. Alcuni dispositivi devono essere in grado di fornire i dati dell'origine dati NoCloud sulla rete.

  4. I processi di provisioning e configurazione sul dispositivo seed riprendono perché sono soddisfatte le condizioni per abbandonare lo scopo speciale del dispositivo seed: nella flotta sono presenti altri dispositivi che forniscono i dati dell'origine dati NoCloud sulla rete.

  5. I processi di provisioning e configurazione sul dispositivo seed eliminano lo scopo speciale, rendendo il dispositivo seed indistinguibile dagli altri dispositivi dello stesso archetipo.

Questa best practice garantisce che tu possa eseguire il bootstrap del tuo ambiente anche senza un'infrastruttura di supporto e senza violare la best practice Evita i dispositivi per usi speciali.

Riduci al minimo la statefulness dei dispositivi

Quando progetti i tuoi dispositivi edge, riduci al minimo la necessità di archiviare informazioni stateful. I dispositivi edge potrebbero avere risorse hardware limitate o essere implementati in ambienti difficili. Ridurre al minimo le informazioni stateful necessarie per il funzionamento semplifica i processi di provisioning, configurazione, backup e ripristino, perché puoi trattare questi dispositivi in modo omogeneo. Ad esempio, se un dispositivo edge stateless inizia a non funzionare correttamente e non è recuperabile, puoi sostituirlo con un altro dispositivo dello stesso archetipo con interruzioni o perdite di dati minime.

Questa best practice ti aiuta a evitare problemi imprevisti dovuti alla perdita di dati o a processi troppo complessi. La maggior parte della complessità deriva dalla necessità di supportare un parco dispositivi eterogeneo.

Crea automaticamente immagini del sistema operativo e del firmware

Per evitare costose attività di provisioning e configurazione al primo avvio dei dispositivi e per risparmiare risorse, personalizza le immagini del sistema operativo e del firmware prima di renderle disponibili. Ad esempio, puoi installare le dipendenze direttamente nell'immagine anziché installarle al primo avvio di ogni dispositivo.

Quando prepari le immagini del sistema operativo e del firmware per i tuoi dispositivi, inizi da un'immagine di base. Quando personalizzi l'immagine di base, puoi:

  • Genera immagini golden. Le immagini golden contengono tutte le dipendenze nell'immagine, in modo che i dispositivi non debbano installarle al primo avvio. La produzione di immagini golden potrebbe essere un'attività complessa, ma consente ai tuoi dispositivi di risparmiare tempo e risorse durante il provisioning e la configurazione.
  • Produci immagini argento. A differenza delle immagini golden, i dispositivi che eseguono immagini silver completano tutti i processi di provisioning e configurazione durante il primo avvio. La produzione di immagini silver può essere meno complessa di quella delle immagini golden, ma i dispositivi che eseguono un'immagine silver impiegano più tempo e risorse durante il provisioning e la configurazione.

Puoi personalizzare le immagini del sistema operativo e del firmware nell'ambito dei processi di integrazione continua e deployment continuo (CI/CD) e rendere automaticamente disponibili le immagini personalizzate per i tuoi dispositivi dopo la convalida. I processi CI/CD che implementi con uno strumento come Cloud Build, GitHub Actions, GitLab CI/CD o Jenkins possono eseguire la seguente sequenza di attività:

  1. Eseguire una convalida automatizzata delle immagini personalizzate.
  2. Pubblica le immagini personalizzate in un repository da cui i tuoi dispositivi possono recuperarle.

Se l'ambiente CI/CD e il sistema operativo o il firmware per cui devi creare le immagini utilizzano architetture hardware diverse, puoi utilizzare strumenti come QEMU per emulare queste architetture. Ad esempio, puoi emulare l'architettura hardware della famiglia ARM su un'architettura x86_64.

Per personalizzare le immagini del sistema operativo o del firmware, devi essere in grado di modificarle e verificare queste modifiche in un ambiente di test prima di installarle nei tuoi dispositivi edge. Strumenti come chroot consentono di modificare virtualmente, ma non fisicamente, la directory root prima di eseguire un comando.

Questa best practice ti aiuta a personalizzare le immagini del sistema operativo e del firmware prima di renderle disponibili per i tuoi dispositivi.

Orchestra in modo affidabile i workload in esecuzione sui tuoi dispositivi

Se i tuoi dispositivi supportano workload eterogenei, puoi utilizzare i seguenti strumenti per orchestrare questi workload e gestirne il ciclo di vita:

  • Un sistema di orchestrazione dei workload: l'utilizzo di un sistema di orchestrazione dei workload, come Kubernetes, è adatto per i workload con requisiti complessi di orchestrazione o gestione del ciclo di vita. Questi sistemi sono adatti anche per workload che si estendono su più componenti. In entrambi i casi, significa che non devi implementare autonomamente la logica di orchestrazione e gestione del ciclo di vita dei workload. Se i tuoi dispositivi hanno risorse limitate, puoi installare una distribuzione Kubernetes leggera che richiede meno risorse rispetto a quella canonica, ad esempio MicroK8s, K3s o Google Distributed Cloud installato con il profilo perimetrale.
  • Un sistema init: l'utilizzo di un sistema init, come systemd, è adatto per i workload con le seguenti caratteristiche:

    • Requisiti di orchestrazione semplici
    • Mancanza di risorse per supportare un sistema di orchestrazione dei workload
    • Workload che non possono essere inseriti in container

Dopo aver implementato un sistema per orchestrare i workload, puoi utilizzarlo anche per eseguire attività che fanno parte dei processi di provisioning e configurazione. Ad esempio, se devi eseguire uno strumento di gestione delle configurazioni nell'ambito dei processi di provisioning e configurazione, puoi utilizzare il sistema di orchestrazione dei workload come faresti con qualsiasi altro workload.

Questa best practice ti aiuta a garantire l'orchestrazione dei workload in esecuzione sui tuoi dispositivi.

Verifica, autentica e connetti i dispositivi

Quando devi verificare se i tuoi dispositivi devono connettersi a sistemi esterni, come altri dispositivi o un backend, tieni conto dei consigli riportati nelle sottosezioni seguenti.

Questa best practice ti aiuta a:

  • Progettare canali di comunicazione sicuri per i tuoi dispositivi.
  • Evita potenziali backdoor che aggirano il perimetro di sicurezza dei tuoi dispositivi.
  • Verifica che i tuoi dispositivi non espongano interfacce non autorizzate che un malintenzionato potrebbe sfruttare.

Pratiche di connessione da applicare

  • Autentica le altre parti che effettuano richieste di informazioni prima di scambiare qualsiasi informazione.
  • Verifica che le informazioni trasmesse non viaggino attraverso canali imprevisti.
  • Affidati a Trusted Execution Environment per gestire i secret, come chiavi di crittografia, chiavi di autenticazione e password.
  • Verifica l'integrità e l'autenticità di qualsiasi immagine del sistema operativo o del firmware prima dell'uso.
  • Verifica la validità, l'integrità e l'autenticità di qualsiasi configurazione fornita dall'utente.
  • Limita la superficie di attacco non installando software non necessario e rimuovendo quello già presente sui tuoi dispositivi.
  • Limita l'utilizzo di operazioni e account con privilegi.
  • Verifica l'integrità della custodia del dispositivo se deve resistere a manipolazioni e manomissioni fisiche.

Pratiche di connessione da evitare

  • Non trasmettere informazioni sensibili su canali non criptati.
  • Evita di lasciare aperto l'accesso con privilegi, ad esempio:
    • Porte seriali e console seriali virtuali o fisiche con privilegi elevati, anche se le porte sono accessibili solo se qualcuno manomette fisicamente il dispositivo.
    • Endpoint che rispondono alle richieste provenienti dalla rete e che possono eseguire operazioni con privilegi.
  • Non fare affidamento su credenziali impostate come hardcoded nelle immagini, nella configurazione o nel codice sorgente del sistema operativo o del firmware.
  • Non rivelare informazioni che potrebbero aiutare un malintenzionato a raccogliere informazioni per ottenere privilegi elevati. Ad esempio, devi criptare i dati sui tuoi dispositivi e disattivare i sistemi di tracciamento e logging non necessari sui dispositivi di produzione.
  • Non consentire a utenti e workload di eseguire codice arbitrario.

Monitora i tuoi dispositivi

Raccogliere informazioni sullo stato dei dispositivi senza intervento manuale è essenziale per l'affidabilità del tuo ambiente. Assicurati che i tuoi dispositivi segnalino automaticamente tutti i dati di cui hai bisogno. Esistono due motivi principali per raccogliere e monitorare i dati:

  • Per aiutarti ad assicurarti che i tuoi dispositivi funzionino come previsto.
  • Per individuare i problemi in modo proattivo ed eseguire la manutenzione preventiva.

Ad esempio, puoi raccogliere metriche ed eventi di monitoraggio con Cloud Monitoring.

Per aiutarti a esaminare e risolvere i problemi, ti consigliamo di progettare e implementare processi per raccogliere dati diagnostici ad alta risoluzione, come informazioni dettagliate di monitoraggio, tracciamento e informazioni di debug, oltre ai processi che monitorano i dispositivi durante il loro normale funzionamento. La raccolta di dati diagnostici ad alta risoluzione e il loro trasferimento tramite una rete possono essere costosi in termini di risorse del dispositivo, come computing, datastore ed energia elettrica. Per questo motivo, ti consigliamo di attivare i processi per raccogliere dati diagnostici ad alta risoluzione solo quando necessario e solo per i dispositivi che richiedono ulteriori indagini. Ad esempio, se uno dei tuoi dispositivi non funziona come previsto e i dati di monitoraggio regolari segnalati dal dispositivo non sono sufficienti per diagnosticare accuratamente il problema, puoi attivare la raccolta di dati ad alta risoluzione per quel dispositivo in modo che riporti più informazioni che possono aiutarti a indagare sulle cause del problema.

Questa best practice garantisce che i dispositivi non vengano lasciati in uno stato sconosciuto e che tu disponga di dati sufficienti per determinare se e come funzionano i dispositivi.

Supporto di avvio e upgrade automatici

Quando progetti i processi di provisioning e configurazione, assicurati che i tuoi dispositivi siano in grado di eseguire l'avvio automatico e di disporre dell'infrastruttura necessaria. Implementando un meccanismo di avvio automatico che supporta sia il primo avvio sia la distribuzione di upgrade over-the-air, aumenti la manutenibilità della tua infrastruttura. L'utilizzo dell'avvio automatico ti evita di dover intervenire manualmente su ogni dispositivo durante l'avvio o l'upgrade. La gestione manuale di un grande parco dispositivi è soggetta a errori perché gli operatori potrebbero non eseguire o eseguire in modo errato le azioni oppure potrebbero non avere tempo sufficiente per eseguire le azioni richieste per ogni dispositivo del parco risorse.

Inoltre, non è necessario preparare in anticipo ogni dispositivo per l'avvio dell'immagine del sistema operativo o del firmware corretta. Ad esempio, puoi rilasciare una nuova versione di un'immagine del sistema operativo o del firmware e renderla disponibile come una delle opzioni che i tuoi dispositivi possono scegliere quando ricevono le istruzioni di avvio dalla rete.

Questa best practice ti aiuta a garantire che i tuoi dispositivi possano eseguire avvii e upgrade automatici e non presidiati.

Progetta e implementa processi resilienti

Anche con processi di provisioning e configurazione completamente automatizzati, possono verificarsi errori che impediscono il corretto completamento di questi processi, lasciando i dispositivi in uno stato incoerente. Assicurati che i tuoi dispositivi siano in grado di riprendersi da questi errori implementando meccanismi di ripetizione e di riserva. Ad esempio, se un dispositivo non riesce a completare un'attività che fa parte dei processi di provisioning e configurazione, dovrebbe tentare automaticamente di correggere l'errore. Dopo che il dispositivo si è ripreso dall'errore o è tornato a uno stato di funzionamento, può riprendere l'esecuzione dei processi dal punto in cui si sono interrotti.

Questa best practice ti aiuta a progettare e implementare processi di provisioning e configurazione resilienti.

Supporto dell'intero ciclo di vita dei dispositivi

Quando progetti i processi di provisioning e configurazione, assicurati che possano gestire l'intero ciclo di vita del dispositivo. La gestione efficace dei cicli di vita dei dispositivi include la pianificazione della terminazione e dello smaltimento, anche se i dispositivi dovrebbero funzionare per un periodo di tempo relativamente lungo.

Se non gestisci il ciclo di vita dei tuoi dispositivi, potrebbero verificarsi problemi, come i seguenti:

  • Costi elevati sostenuti: l'introduzione del supporto per la gestione del ciclo di vita dopo l'implementazione dei processi di provisioning e configurazione può aumentare i costi. Pianificando questo supporto nelle prime fasi della progettazione, potresti ridurre questi costi. Ad esempio, se i processi di provisioning e configurazione non supportano l'intero ciclo di vita dei dispositivi, potresti dover intervenire manualmente su ogni dispositivo per gestire correttamente ogni fase del ciclo di vita. L'intervento manuale può essere costoso e spesso non è scalabile.
  • Maggiore rigidità: il mancato supporto della gestione del ciclo di vita potrebbe comportare l'impossibilità di aggiornare o gestire i dispositivi. Ad esempio, se non disponi di un meccanismo per spegnere i dispositivi in modo sicuro ed efficiente, potrebbe essere difficile gestirne la fine del ciclo di vita e lo smaltimento finale.

Passaggi successivi

Collaboratori

Autore: Marco Ferrari | Cloud Solutions Architect