The Ops Community ⚙️: SREDevOps.org

Kubeshark: Wireshark for Your Kubernetes Cluster? Find out and learn with us

Nicolás Georger — Wed, 10 Jul 2024 16:00:46 +0000

TL;DR: Flying blind in your Kubernetes environment? Fight challenges of Kubernetes network observability with Kubeshark as the predator of network monitoring. Learn how this powerful tool provides real-time, protocol-level insights into your K8s cluster's API traffic, making troubleshooting a breeze and security nightmares a distant memory.

[

Kubeshark: Wireshark For Kubernetes

Alon Girmonsky, CEO/Founder will share how Kubeshark monitors K8s network traffic and provides visibility across your Kubernetes clusters

Eventbrite

](https://www.eventbrite.com/e/kubeshark-wireshark-for-kubernetes-tickets-934653863867?ref=sredevops.org)

The Struggle is Real: Kubernetes Network Observability

Kubernetes has revolutionized how we manage our infrastructure, bringing unprecedented scalability and efficiency. But let's be real, sometimes it feels like we're navigating a labyrinth of microservices, struggling to make sense of the complex network interactions within our clusters. Traditional monitoring tools just don't cut it. We need deep visibility into the API traffic flowing through hundreds of microservices, and those old-school tools leave us feeling like we're in a "blindfolded trust fall" with our Kubernetes clusters. The lack of visibility can turn simple troubleshooting into a marathon of frustration and leave us vulnerable to security threats lurking in the shadows.

Kubeshark to the Rescue: Shining a Light on Network Traffic

Enter Kubeshark, the Wireshark for your Kubernetes cluster! This purpose-built tool is designed to bring clarity and confidence to your Kubernetes network monitoring. Imagine having a "superpowered magnifying glass" that reveals the real-time, protocol-level details of every API call happening within your cluster. Kubeshark gives you the power to:

Visualize your network traffic: See every API call, its source and destination, and the data being exchanged, all in real-time.
Identify bottlenecks and performance issues: Quickly pinpoint performance bottlenecks and troubleshoot issues by tracing the flow of traffic through your cluster.
Improve security posture: Gain valuable insights into potential security vulnerabilities and malicious activity by analyzing the network traffic for suspicious patterns.

Kubeshark in Action: Unmasking Network Mysteries 🕵️

Enough with the theory! Let's see Kubeshark in action. Imagine a scenario where your application is experiencing slow response times. You launch Kubeshark and start sniffing the network traffic. Within seconds, you see a massive spike in API calls to a specific microservice, indicating a potential bottleneck. You dive deeper into the traffic flow and discover that the service is overloaded with requests. Problem identified, solution in sight!

Kubeshark's user-friendly interface lets you:

Filter and search traffic: Easily narrow down your search to specific pods, services, or namespaces.
Analyze traffic flow: Visualize the flow of traffic through your cluster with detailed timelines and interactive graphs.
Explore protocol details: Get granular insights into the specific protocols and payloads of each API call.

Kubeshark: Your New Best Friend in the Kubernetes Jungle 🤝

Kubeshark empowers you to understand your Kubernetes network traffic like never before. It’s like having a seasoned network engineer always by your side, ready to unravel even the most complex network mysteries. No more "head-scratching" or "blindly guessing" when troubleshooting network issues. With Kubeshark, you can confidently navigate the Kubernetes jungle and keep your applications running smoothly.

Links and Resources

Don't miss your chance to experience the power of Kubeshark firsthand! Sign up for their free webinar and get a live demo of this revolutionary tool. You'll learn how to use Kubeshark to:

Unlock network visibility in Kubernetes.
Identify and resolve network performance bottlenecks.
Enhance your Kubernetes security posture.

Register now: https://www.eventbrite.com/e/kubeshark-wireshark-for-kubernetes-tickets-934653863867

Don't let your Kubernetes network be a mystery! Get your hands on Kubeshark and unlock a world of possibilities.

[

Kubeshark: Wireshark For Kubernetes

Alon Girmonsky, CEO/Founder will share how Kubeshark monitors K8s network traffic and provides visibility across your Kubernetes clusters

Eventbrite

](https://www.eventbrite.com/e/kubeshark-wireshark-for-kubernetes-tickets-934653863867?ref=sredevops.org)

Resources:

Kubeshark Website

[

Kubeshark — API Traffic Analyzer for Kubernetes

Deep visibility and monitoring of all API traffic and payloads going in, out and across containers and pods inside a Kubernetes cluster.

kubernetes logo

](https://www.kubeshark.co/?ref=sredevops.org)

Kubeshark Github Repository

[

GitHub - kubeshark/kubeshark: The API traffic analyzer for Kubernetes providing real-time K8s protocol-level visibility, capturing and monitoring all traffic and payloads going in, out and across containers, pods, nodes and clusters. Inspired by Wireshark, purposely built for Kubernetes

The API traffic analyzer for Kubernetes providing real-time K8s protocol-level visibility, capturing and monitoring all traffic and payloads going in, out and across containers, pods, nodes and clu…

GitHubkubeshark

](https://github.com/kubeshark/kubeshark?ref=sredevops.org)

Kueue: La forma más sencilla de gestionar colas de trabajos y recursos en Kubernetes

Nicolás Georger — Fri, 14 Jun 2024 12:17:32 +0000

Kueue es una potente herramienta diseñada para mejorar la gestión de colas de trabajos y recursos dentro de los clústeres Kubernetes. Al ofrecer un conjunto de APIs y un controller, Kueue te permite gestionar eficientemente la ejecución de trabajos, la asignación de recursos y el rendimiento general del clúster.

Kueue es un sistema de colas de trabajos nativo de la nube para aplicaciones por lotes, HPC, AI/ML y similares en un clúster Kubernetes.

Utiliza Kueue para construir un servicio por lotes multi-tenant con cuotas y una jerarquía para compartir recursos entre equipos de tu organización. En función de las cuotas disponibles, Kueue decide cuándo los trabajos deben esperar y cuándo y dónde deben ejecutarse.

Kueue funciona en combinación con el kube-scheduler estándar, el cluster-autoscaler y el resto del ecosistema de Kubernetes. Esta combinación permite a Kueue ejecutarse tanto on-prem como en la nube, donde los recursos pueden ser heterogéneos, fungibles y aprovisionados dinámicamente.

Características Clave para Cargas de Trabajo Optimizadas en Kubernetes

Job Management (Gestión de trabajos): Kueue permite la puesta en cola de trabajos priorizados con estrategias flexibles como StrictFIFO y BestEffortFIFO.
Resource Management (Gestión de recursos): Logra un reparto equitativo de los recursos e implementa políticas de preemption entre los distintos tenants.
Dynamic Resource Reclaim (Recuperación dinámica de recursos): Libera automáticamente la cuota a medida que se completan los pods de trabajo, maximizando la utilización de los recursos.
Resource Flavor Fungibility (Fungibilidad de los tipos de recursos): Permite el préstamo de cuotas o preemption en ClusterQueues y Cohorts para una mayor flexibilidad.
Amplia gama de integraciones: Integración perfecta con tipos de trabajo populares, como BatchJob, trabajos de entrenamiento Kubeflow, RayJob, RayCluster, JobSet y Pods simples.
Información detallada del sistema: Obtén información valiosa sobre el estado de tu sistema a través de métricas Prometheus y Conditions incorporados.

Preparación para producción y soporte robusto

Kueue cuenta con una versión API v1beta1 madura, documentación completa, amplia cobertura de pruebas y verificación de escalabilidad. Con lanzamientos regulares, seguridad robusta y una creciente lista de usuarios en entornos de producción, Kueue es una solución fiable para gestionar tus cargas de trabajo de Kubernetes.

Instalación y uso sencillo

Kueue es compatible con Kubernetes 1.22 y superiores. Instala la última versión sin esfuerzo con un solo comando:

# ¡Comprueba la versión si es necesario!

kubectl apply --server-side -f [https://github.com/kubernetes-sigs/kueue/releases/download/v0.7.0/manifests.yaml](https://github.com/kubernetes-sigs/kueue/releases/download/v0.7.0/manifests.yaml)

Consulta la documentación de Kueue para obtener guías de instalación detalladas y ejemplos de uso.

[

Documentation

Powerful, extensible, and feature-packed frontend toolkit. Build and customize with Sass, utilize prebuilt grid system and components, and bring projects to life with powerful JavaScript plugins.

.cls-1{fill:none}.cls-2{fill:#fff}.cls-3{fill:#326ce5}Kueue

](https://kueue.sigs.k8s.io/docs/?ref=sredevops.org)

Roadmap

El desarrollo de Kueue está impulsado activamente por los comentarios y contribuciones de la comunidad. En 2023, la hoja de ruta del proyecto prioriza:

Preemption cooperativa para cargas de trabajo con checkpointing.
Estrategias de asignación de flavors para optimizar la asignación de recursos.
Integración con el cluster-autoscaler para el aprovisionamiento garantizado de recursos.
Mayor integración con diversas cargas de trabajo personalizadas como Kubeflow, Spark, Ray y herramientas de flujo de trabajo.

Los objetivos a largo plazo incluyen soporte presupuestario, un panel de control fácil de usar y soporte multi-clúster.

Comunidad y soporte

Únete a la vibrante comunidad de Kueue para mantenerte informado, participar en debates y contribuir al desarrollo continuo del proyecto. Conéctate con los mantenedores a través de Slack y la lista de correo para obtener soporte y colaborar.

Empieza a usar Kueue

Kueue ofrece un enfoque simplificado y eficiente para la gestión de colas de trabajos y recursos en Kubernetes. Aprovechando sus potentes funciones, puedes optimizar el rendimiento de tu clúster, garantizar una asignación equitativa de los recursos y agilizar tus procesos de gestión de cargas de trabajo. ¡Instala Kueue hoy mismo y experimenta los beneficios de primera mano!

[

GitHub - kubernetes-sigs/kueue: Kubernetes-native Job Queueing

Kubernetes-native Job Queueing. Contribute to kubernetes-sigs/kueue development by creating an account on GitHub.

GitHubkubernetes-sigs

](https://github.com/kubernetes-sigs/kueue/?ref=sredevops.org)

Kueue: Streamlining Kubernetes Job Queueing and Resource Management

Nicolás Georger — Fri, 14 Jun 2024 12:17:14 +0000

Kueue is a powerful tool designed to enhance job queueing and resource management within Kubernetes clusters. By offering a set of APIs and a controller, Kueue empowers you to efficiently manage job execution, resource allocation, and overall cluster performance.

Kueue is a cloud-native job queueing system for batch, HPC, AI/ML, and similar applications in a Kubernetes cluster.

Use Kueue to build a multi-tenant batch service with quotas and a hierarchy for sharing resources among teams in your organization. Based on the available quotas, Kueue decides when jobs should wait and when and where they should run.

Kueue works in combination with standard kube-scheduler, cluster-autoscaler, and the rest of the kubernetes ecosystem. This combination allows Kueue to run both on-prem and in the cloud, where resources can be heterogeneous, fungible, and dynamically provisioned.

Key Features for Optimized Kubernetes Workloads

Job Management: Kueue enables prioritized job queueing with flexible strategies like StrictFIFO and BestEffortFIFO.
Resource Management: Achieve fair resource sharing and implement preemption policies between different tenants.
Dynamic Resource Reclaim: Automatically release quota as job pods complete, maximizing resource utilization.
Resource Flavor Fungibility: Enable quota borrowing or preemption in ClusterQueues and Cohorts for enhanced flexibility.
Wide Range of Integrations: Seamlessly integrate with popular job types, including BatchJob, Kubeflow training jobs, RayJob, RayCluster, JobSet, and plain Pods.
Enhanced System Insights: Gain valuable insights into your system's state through built-in Prometheus metrics and Conditions.

Production Readiness and Robust Support

Kueue boasts a mature v1beta1 API version, comprehensive documentation, extensive test coverage, and scalability verification. With regular releases, robust security, and a growing list of adopters in production environments, Kueue is a reliable solution for managing your Kubernetes workloads.

Installation and Usage Made Easy

Kueue is compatible with Kubernetes 1.22 and above. Install the latest release effortlessly with a single command:

# heck version if needed!

kubectl apply --server-side -f https://github.com/kubernetes-sigs/kueue/releases/download/v0.7.0/manifests.yaml

Explore the Kueue documentation for detailed installation guides and usage examples.

[

Documentation

Powerful, extensible, and feature-packed frontend toolkit. Build and customize with Sass, utilize prebuilt grid system and components, and bring projects to life with powerful JavaScript plugins.

.cls-1{fill:none}.cls-2{fill:#fff}.cls-3{fill:#326ce5}Kueue

](https://kueue.sigs.k8s.io/docs/?ref=sredevops.org)

Roadmap

Kueue's development is actively driven by community feedback and contributions. In 2023, the project's roadmap prioritizes:

Cooperative preemption for workloads with checkpointing.
Flavor assignment strategies for optimizing resource allocation.
Integration with the cluster-autoscaler for guaranteed resource provisioning.
Broader integration with various custom workloads like Kubeflow, Spark, Ray, and workflow tools.

Long-term goals include budget support, a user-friendly dashboard, and multi-cluster support.

Community and Support

Join the vibrant Kueue community to stay informed, participate in discussions, and contribute to the project's ongoing development. Connect with maintainers through Slack and the mailing list for support and collaboration.

Get Started with Kueue

Kueue offers a simplified and efficient approach to job queueing and resource management in Kubernetes. By leveraging its powerful features, you can optimize your cluster's performance, ensure fair resource allocation, and streamline your workload management processes. Install Kueue today and experience the benefits firsthand.

[

GitHub - kubernetes-sigs/kueue: Kubernetes-native Job Queueing

Kubernetes-native Job Queueing. Contribute to kubernetes-sigs/kueue development by creating an account on GitHub.

GitHubkubernetes-sigs

](https://github.com/kubernetes-sigs/kueue/?ref=sredevops.org)

Lima: La forma más fácil de ejecutar cualquier distribución de Linux, Kubernetes, k3s e incluso Docker en macOS y Linux,...

Nicolás Georger — Fri, 14 Jun 2024 07:04:10 +0000

Qué es Lima: Una herramienta de línea de comandos (CLI) versátil y fácil de usar para ejecutar máquinas virtuales (VM) de Linux en tu sistema macOS o Linux

Lima es compatible con cualquier procesador Apple Silicon (M1, M2, etc.) y procesadores Intel x86_64, y te permite ejecutar VMs de Linux sin necesidad de nada más que un solo comando:

# Ejemplo: Ejecutar Kubernetes de 64 bits en un Macbook Pro M2:
limactl create template://k8s --arch x86_64 --rosetta

Características clave

Compartir archivos y encaminamiento de puertos sin esfuerzo: Compartir archivos y acceder a servicios VM sin problemas.
Soporte de tiempo de ejecución de contenedor integrado: Soporte integrado para containerd y compatibilidad con otros motores como Docker y Podman.
Compatibilidad entre arquitecturas: Ejecutar distribuciones de Linux basadas en ARM en Macs basadas en Intel, y viceversa.
Varias distribuciones de Linux: Elija entre opciones populares como Ubuntu (predeterminado), Debian, Fedora, Arch Linux y más.
Proyecto de la Fundación Cloud Native Computing Foundation.

[

Lima

](https://lima-vm.io/?ref=sredevops.org)

Integración sin esfuerzo para una mayor productividad

Con Lima, comparte archivos y carpetas entre tu sistema operativo host y la VM de Linux sin necesidad de protocolos de transferencia de archivos engorrosos o sincronización manual. Esto optimiza tu flujo de trabajo, ya sea que estés editando código, trabajando con documentos o transfiriendo conjuntos de datos grandes. El encaminamiento de puertos automático de Lima simplifica el acceso a los servicios que se ejecutan dentro de la VM, lo que te permite interactuar con aplicaciones web, bases de datos y otros servicios de red alojados en la VM directamente desde tu sistema host. Esta integración sin problemas aumenta en gran medida tus procesos de desarrollo, pruebas y depuración.

Administración y personalización sin esfuerzo de las VMs

La interfaz de línea de comandos (CLI) de Lima, limactl, proporciona comandos intuitivos para administrar tus VMs. Crea, inicia, detén y elimina VMs sin esfuerzo, todo desde la comodidad de tu terminal. Las opciones de configuración extensas de Lima te permiten adaptar la VM a tus necesidades específicas. Asigna fácilmente recursos como núcleos de CPU, memoria y espacio en disco, o ajusta parámetros como configuraciones de red, reglas de encaminamiento de puertos y otros parámetros. Esta flexibilidad te permite crear VMs optimizadas para tareas específicas, garantizando un rendimiento y uso de recursos óptimos.

Una herramienta versátil para diversos casos de uso: Linux, Kubernetes y más allá

Las aplicaciones de Lima van mucho más allá de simplemente ejecutar distribuciones de Linux. Su naturaleza amigable con los contenedores y el soporte para varios motores de tiempo de ejecución de contenedores, como containerd, Docker y Podman, lo convierten en una plataforma ideal para cargas de trabajo contenerizadas. Ya sea que estés desarrollando aplicaciones nativas en la nube, experimentando con herramientas de orquestación de contenedores como Kubernetes o creando entornos de desarrollo portátiles, Lima proporciona una base sólida para tus flujos de trabajo basados en contenedores. La versatilidad de Lima brilla a través de su compatibilidad con una amplia gama de sistemas operativos invitados, incluidas populares distribuciones de Linux como Ubuntu, Debian, Fedora y muchas más. Esto te permite elegir el entorno que mejor se adapte a tus requisitos de proyecto y preferencias personales.

Instalación sencilla

Empezar con Lima es fácil, gracias a sus múltiples opciones de instalación:

Homebrew (macOS y Linux): brew install lima
Nix (macOS y Linux): nix-env -i lima
Fuente (usuarios avanzados): Clona el repositorio, compila e instala. GitHub - lima-vm/lima: Linux virtual machines, with a focus on running containers

[

GitHub - lima-vm/lima: Linux virtual machines, with a focus on running containers

Linux virtual machines, with a focus on running containers - lima-vm/lima

GitHublima-vm

](https://github.com/lima-vm/lima?ref=sredevops.org)

Tu puerta de entrada a Linux en macOS y Linux

Si eres un desarrollador que desea probar aplicaciones en un entorno Linux, un administrador de sistemas que administra servidores Linux o simplemente alguien curioso por explorar las distribuciones Linux, Lima ofrece una solución fácil de usar y eficiente. Simplifica la configuración y la administración de VMs de Linux, brindándote la flexibilidad y el poder que necesitas para trabajar eficazmente con Linux en tu plataforma preferida.

Empodera tu flujo de trabajo con Lima

Sumérgete en el mundo de las VMs de Linux con Lima y desbloquea un nuevo nivel de productividad y versatilidad en tu trabajo. Su interfaz intuitiva, su rica funcionalidad y su compatibilidad entre plataformas lo convierten en una herramienta indispensable para cualquiera que desee aprovechar el poder de Linux en macOS o Linux. Con Lima, tienes una poderosa aliada para optimizar tus tareas de desarrollo, pruebas y administración, lo que te permite enfocarte en lo que realmente importa: lograr tus objetivos con la eficiencia y confiabilidad que brinda Linux.

Bonus track: Ejecutar Docker en macOS sin Docker Desktop

Lima también puede usarse como una alternativa liviana y eficiente a Docker Desktop en macOS. Al aprovechar las capacidades de virtualización de Lima y la tecnología de contenedores de Docker, puedes crear un entorno Docker sin la sobrecarga de Docker Desktop. Esta aproximación ofrece tiempos de inicio más rápidos, un consumo de recursos reducido y una experiencia de Docker más optimizada para tus necesidades específicas.

Instalar Docker en macOS sin Docker Desktop:

# Para crear y comenzar una instancia de Lima preconfigurada para Docker
limactl start template://docker

Con Docker ejecutándose en Lima, ahora puedes usar el comando nerdctl (o el comando docker después de una configuración adecuada) para interactuar con Docker como lo harías normalmente. Disfruta de los beneficios de un entorno Docker liviano y eficiente sin la necesidad de Docker Desktop.

Lima: The Easiest Way to Run any Linux Distro, Kubernetes, k3s and even Docker on macOS and Linux, Apple Silicon (M1/ARM64)...

Nicolás Georger — Fri, 14 Jun 2024 05:59:02 +0000

Lima is a versatile and user-friendly command line tool (CLI) that empowers you to seamlessly run Linux virtual machines (VMs) on your macOS or Linux system. It's c*ompatible with any Apple Silicon Mac (M1, M2, etc) ARM64 and Intel x86_64 processors*, vice versa, without anything else than a single command:

# Example: Run Kubernetes 64 bits on a Macbook Pro M2:

limactl create template://k8s --arch x86_64 --rosetta

Key Features

Effortless File Sharing and Port Forwarding: Share files and access VM services seamlessly.
Container Runtime Support: Built-in support for containerd and compatibility with other engines like Docker and Podman.
Cross-Architecture Compatibility: Run ARM-based Linux distributions on Intel-based Macs, and vice versa.
Diverse Linux Distributions: Choose from popular options like Ubuntu (default), Debian, Fedora, Arch Linux, and more.
Cloud Native Computing Foundation ** sandbox project.**

Seamless Integration for Enhanced Productivity

With Lima, effortlessly share files and folders between your host operating system and the Linux VM, eliminating the need for cumbersome file transfer protocols or manual synchronization. This streamlines your workflow, whether you're editing code, working with documents, or transferring large datasets. Lima's automatic port forwarding simplifies access to services running within the VM, allowing you to interact with web applications, databases, and other network services hosted in the VM directly from your host system. This seamless integration significantly enhances your development, testing, and debugging processes.

Effortless VM Management and Customization

Lima's command-line interface (CLI) tool, limactl, provides intuitive commands for managing your VMs. Create, start, stop, and delete VMs with ease, all from the comfort of your terminal. Lima's extensive configuration options enable you to tailor the VM to your specific needs. Easily allocate resources like CPU cores, memory, and disk space, or fine-tune network settings, port forwarding rules, and other parameters. This flexibility empowers you to create VMs optimized for specific tasks, ensuring optimal performance and resource utilization.

A Versatile Tool for Diverse Use Cases: Linux, Kubernetes, and Beyond

Lima's applications extend far beyond simply running Linux distributions. Its container-friendly nature and support for various container runtimes, such as containerd, Docker, and Podman, make it an ideal platform for containerized workloads. Whether you're developing cloud-native applications, experimenting with container orchestration tools like Kubernetes, or building portable development environments, Lima provides a solid foundation for your container-based workflows. Lima's versatility shines through its compatibility with a wide range of guest operating systems, including popular Linux distributions like Ubuntu, Debian, Fedora, and many more. This allows you to choose the environment that best aligns with your project requirements and personal preferences.

Installation Made Simple

Getting started with Lima is a breeze, thanks to its multiple installation options:

Homebrew (macOS and Linux): brew install lima
Nix (macOS and Linux): nix-env -i lima
Source (advanced users): Clone the repository, compile, and install.

[

GitHub - lima-vm/lima: Linux virtual machines, with a focus on running containers

Linux virtual machines, with a focus on running containers - lima-vm/lima

GitHublima-vm

](https://github.com/lima-vm/lima?ref=sredevops.org)
Lima Repository on Github

Your Gateway to Linux on macOS and Linux

Whether you're a developer looking to test applications in a Linux environment, a system administrator managing Linux servers, or simply curious about exploring Linux distributions, Lima provides a user-friendly and efficient solution. It simplifies the setup and management of Linux VMs, offering the flexibility and power you need to work effectively with Linux on your preferred platform.

Empowering Your Workflow with Lima

Dive into the world of Linux VMs with Lima and unlock a new level of productivity and versatility in your work. Its intuitive interface, rich feature set, and cross-platform compatibility make it an indispensable tool for anyone seeking to harness the power of Linux on macOS or Linux. With Lima, you have a powerful ally to streamline your development, testing, and administration tasks, allowing you to focus on what truly matters – achieving your goals with the efficiency and reliability that Linux provides.

Bonus Track: Running Docker on macOS without Docker Desktop

Lima can also be used as a lightweight and efficient alternative to Docker Desktop on macOS. By leveraging Lima's virtualization capabilities and Docker's containerization technology, you can create a seamless Docker environment without the overhead of Docker Desktop. This approach offers faster startup times, reduced resource consumption, and a more streamlined Docker experience tailored to your specific needs.

💡

How to install Docker on macOS without Docker Desktop:

# to create and start a Lima instance pre-configured for Docker

limactl start template://docker

With Docker running on Lima, you can now use the nerdctl command (or the docker command after appropriate configuration) to interact with Docker as you normally would. Enjoy the benefits of a lightweight and efficient Docker environment without the need for Docker Desktop.

LocalAI: Cómo usar ChatGPT (y muchos otros modelos) en tus propios computadores... ¡Y en modo cluster!

Nicolás Georger — Mon, 27 May 2024 20:28:54 +0000

LocalAI v2.16.0: Avances significativos en IA descentralizada para usuarios y desarrolladores

LocalAI ha lanzado su versión 2.16.0, presentando características clave que potencian la ejecución de modelos de inteligencia artificial (IA) de forma local y distribuida. Esta actualización marca un hito importante en la democratización de la IA, permitiendo a usuarios y desarrolladores aprovechar modelos más grandes y complejos sin depender exclusivamente de servicios en la nube.

Principales novedades:

Inferencia distribuida para modelos de mayor escala: LocalAI ahora permite distribuir la carga de procesamiento de modelos de IA grandes en múltiples dispositivos. Esto posibilita la ejecución de modelos más sofisticados y mejora el rendimiento general.
Redes privadas P2P para IA: LocalAI introduce una innovadora capacidad de procesamiento de IA entre pares (P2P). Los usuarios pueden crear redes privadas y seguras para compartir la carga de trabajo de IA, garantizando mayor control sobre los datos y la privacidad.
Respuestas más inteligentes con gramáticas mixtas: Los modelos de IA de LocalAI ahora pueden comprender y generar respuestas más diversas y estructuradas, combinando texto libre con datos formateados (listas, tablas) para una interacción más natural e informativa.
Nuevos modelos y configuración simplificada: Se han añadido nuevos modelos de IA, como Aya-35b, Mistral-0.3 y Hermes-Theta, y se han actualizado los existentes. Además, la implementación se ha simplificado gracias a un único binario que facilita la instalación y gestión.
Correcciones y mejoras de rendimiento: LocalAI ha solucionado errores y optimizado el rendimiento, incluyendo la adopción de un nuevo sistema para backends de Python que agiliza el procesamiento.

¿Por qué es relevante esta actualización?

Entusiastas IA/ML: LocalAI facilita la experimentación con modelos potentes sin requerir costosos servicios en la nube.
Desarrolladores: Las nuevas funciones, como la inferencia distribuida y las gramáticas mixtas, abren nuevas posibilidades para crear aplicaciones de IA personalizadas.
Usuarios preocupados por la privacidad: La red P2P brinda control total sobre los datos y el procesamiento de IA.

[

Release v2.16.0 · mudler/LocalAI

Welcome to LocalAI’s latest update! 🎉🎉🎉 woot woot! So excited to share this release, a lot of new features are landing in LocalAI!!!!! 🎉🎉🎉 🌟 Introducing Distributed Llama.cpp Inferencing Now it i…

GitHubmudler

](https://github.com/mudler/LocalAI/releases/tag/v2.16.0?ref=sredevops.org)

Ya puedes registrarte en PlatformCon 2024, entre el 10 y 14 de Junio 2024

Nicolás Georger — Fri, 23 Feb 2024 08:50:18 +0000

PlatformCon 2024, es la cita virtual más importante del año para la comunidad e industrias alrededor de la Platform Engineering, DevOps, SRE y más.

Del 10 al 14 de junio , prepárate para cinco días llenos de conocimiento, experiencias y networking con más de 17.000 ingenieros de plataformas de todo el mundo.

En PlatformCon 2024 encontrarás:

Los mejores speakers de la industria: Expertos de empresas como Google, Netflix, Spotify, Amazon y muchas más compartirán sus conocimientos y experiencias en charlas, talleres y paneles de discusión.
Las últimas tendencias en DevOps e ingeniería de plataformas: Descubre las tecnologías más innovadoras y las mejores prácticas para mejorar la eficiencia y la productividad de tu equipo.
Oportunidades únicas de networking: Conéctate con otros profesionales de la industria, comparte ideas y encuentra nuevas oportunidades de colaboración.

#PlatformCon #DevOps #IngenieríaDePlataformas #Latinoamérica

[

Connect with fellow platform practitioners, learn from the best in the industry and engage directly with speakers on Slack.

](https://platformcon.com/register?ref=sredevops.org)

Registrate en PlatformCon.com

PlaformCon 2024

10 - 14 de Junio 2024

Registrate

Qué esperar sobre Kubernetes este 2024? Fairwind presenta "2024 Kubernetes Benchmark Report", aquí un resumen

Nicolás Georger — Sat, 27 Jan 2024 18:42:13 +0000

Puntos clave:

La adopción de Kubernetes sigue creciendo , lo que permite a las organizaciones automatizar el despliegue, la administración y el escalado de aplicaciones en contenedores.
Los equipos de DevOps, ingeniería de plataformas y desarrollo se centran cada vez más en la estabilidad, la seguridad y la rentabilidad de sus cargas de trabajo.
Fairwinds analizó más de 330.000 cargas de trabajo de cientos de organizaciones para el informe de 2024.
Los usuarios de Kubernetes han mejorado significativamente la estabilidad y la eficiencia de las cargas de trabajo, pero aún hay áreas que necesitan mejoras.

Principales preocupaciones de Kubernetes en 2024:

Aplicar políticas de manera consistente para gestionar la rentabilidad, la estabilidad y la seguridad de Kubernetes.
Saber cómo se comparan las configuraciones de las organizaciones con las de sus pares y cómo mejorarlas.
El informe de referencia muestra que muchas organizaciones han hecho mejoras significativas, en parte debido a la adopción de software que ayuda a identificar las configuraciones incorrectas automáticamente.

Rentabilidad:

El 37% de las organizaciones tienen un 50% o más de cargas de trabajo que necesitan un ajuste del tamaño de contenedores para mejorar la rentabilidad.
Fairwinds Insights permite a los ingenieros de plataformas optimizar los recursos de las aplicaciones, identificando fácilmente recursos informáticos desperdiciados y obteniendo recomendaciones de recursos precisas y accionables.

Estabilidad:

El 65% de las organizaciones carecen de probes de liveness y readiness, lo que afecta la estabilidad general.
El 55% de las organizaciones tienen más del 21% de las cargas de trabajo sin réplicas, lo que puede afectar la estabilidad y la disponibilidad de los contenedores.
Este año, el 67% de las organizaciones tienen más del 11% de las cargas de trabajo afectadas por la falta de solicitudes de CPU, lo que ha disminuido del 78% en 2023.

Seguridad:

El 28% de las organizaciones tienen más del 90% de las cargas de trabajo ejecutándose con capacidades inseguras, lo que ha disminuido del 33% en 2023.
El 70% de las organizaciones tienen un 11% o más de sus cargas de trabajo ejecutándose con charts de Helm desactualizados, lo que puede resultar en la falta de parches de seguridad críticos.

Conclusiones principales:

Los contenedores y Kubernetes pueden ofrecer a las empresas beneficios significativos, pero sin comprender estas configuraciones esenciales y cómo establecerlas de manera adecuada, puede ser difícil navegar por las complejidades inherentes de Kubernetes.
Este informe ayuda a identificar áreas potenciales de configuración incorrecta en Kubernetes y el impacto que pueden tener en la estabilidad, la seguridad y la rentabilidad de sus cargas de trabajo en el próximo año.

Para obtener más información

Consulta el informe completo de Benchmark de Kubernetes 2024 de Fairwinds.

Fuente

[

2024 Kubernetes Benchmark Report: The Latest Analysis of Kubernetes Workloads

The 2024 Kubernetes benchmark report analyzed more than 330,000 workloads, showing significant improvements in workload efficiency and reliability.

Joe Pelletier

](https://www.fairwinds.com/blog/2024-kubernetes-benchmark-report-kubernetes-workload-analysis?ref=sredevops.org)

K8Studio, una GUI para administrar e interactuar fácilmente con Kubernetes, alternativa a Lens o k9s

Nicolás Georger — Thu, 18 Jan 2024 11:18:43 +0000

](https://itnext.io/k8studio-kubernetes-ide-3e2979457b9e?ref=sredevops.org)

"Nu0estro objetivo principal sigue siendo inquebrantable: crear una interfaz gráfica integral que permita a los usuarios administrar sin esfuerzo sus clústeres de Kubernetes."

Las características principales de K8 Studio son las siguientes:

Vista multiclúster: Esta vista permite a los usuarios ver y administrar múltiples clústeres de Kubernetes desde una sola interfaz.
Vista de implementación: Esta vista proporciona una representación visual de las implementaciones de Kubernetes, incluidas sus cargas de trabajo, pods, estado y configuración.
Vista de nodo: Esta vista proporciona una representación visual de los nodos de Kubernetes, incluidos sus pods, contenedores, servicios y estado.
Filtrar y buscar: K8 Studio proporciona una variedad de opciones de filtrado y búsqueda para ayudar a los usuarios a encontrar los objetos que están buscando.
Caja de herramientas: La caja de herramientas de K8 Studio contiene todos los tipos de objetos disponibles en Kubernetes, clasificados por categorías.
Editor rápido: El editor rápido de K8 Studio proporciona una representación estructurada del YAML del archivo, lo que facilita la edición de los objetos.
Editor YML: K8 Studio también incluye un editor YML tradicional para aquellos que prefieren trabajar con el formato YAML.
Configuración: K8 Studio proporciona una interfaz para administrar configuraciones, incluidas las configuraciones de mapas de configuración y secretos.
SSH y registros: K8 Studio permite a los usuarios conectarse a un pod o nodo mediante SSH o leer sus registros.
Exportar: K8 Studio proporciona una variedad de opciones de exportación para ayudar a los usuarios a compartir sus objetos con otros.

En detalle, las características de K8 Studio incluyen las siguientes:

Vista multiclúster

La vista multiclúster de K8 Studio proporciona una vista resumida de múltiples clústeres, que incluye información de monitoreo, las aplicaciones que se han implementado en el clúster, cuántos pods se están ejecutando y cuántos están pendientes o tienen un error.

Vista de implementación

La vista de implementación de K8 Studio proporciona una representación visual de las implementaciones de Kubernetes, incluidas sus cargas de trabajo, pods, estado y configuración. Los usuarios pueden ver la topología de red de las implementaciones, el estado de los pods y la versión del pod en ejecución.

Vista de nodo

La vista de nodo de K8 Studio proporciona una representación visual de los nodos de Kubernetes, incluidos sus pods, contenedores, servicios y estado. Los usuarios pueden ver la topología de red de los nodos, el estado de los pods y los recursos disponibles.

Filtrar y buscar

K8 Studio proporciona una variedad de opciones de filtrado y búsqueda para ayudar a los usuarios a encontrar los objetos que están buscando. Los usuarios pueden filtrar por nombre, etiqueta, espacio de nombres, tipo de objeto y otros criterios.

Caja de herramientas

La caja de herramientas de K8 Studio contiene todos los tipos de objetos disponibles en Kubernetes, clasificados por categorías. Los usuarios pueden arrastrar y soltar objetos de la caja de herramientas a la vista interactiva o al árbol del proyecto.

Editor rápido

El editor rápido de K8 Studio proporciona una representación estructurada del YAML del archivo, lo que facilita la edición de los objetos. El editor rápido proporciona sugerencias, validación y descripciones de propiedades para ayudar a los usuarios a crear y editar objetos.

Editor YML

K8 Studio también incluye un editor YML tradicional para aquellos que prefieren trabajar con el formato YAML. El editor YML incluye resaltador de sintaxis y autocompletado de palabras clave.

Configuración

K8 Studio proporciona una interfaz para administrar configuraciones, incluidas las configuraciones de mapas de configuración y secretos. Los usuarios pueden crear, editar, eliminar y exportar configuraciones.

SSH y registros

K8 Studio permite a los usuarios conectarse a un pod o nodo mediante SSH o leer sus registros. Los usuarios pueden conectarse a un pod o nodo seleccionado usando la terminal incorporada de K8 Studio.

Exportar

K8 Studio proporciona una variedad de opciones de exportación para ayudar a los usuarios a compartir sus objetos con otros. Los usuarios pueden exportar objetos individuales a archivos YAML o volcar el filtro de configuración del clúster completo a una carpeta. También tienen la opción de exportar la vista existente a SVG o HTML.

En general, K8 Studio es una herramienta poderosa que puede ayudar a los usuarios a administrar y administrar clústeres de Kubernetes.

MySQL 8.2 es lo que todos estábamos esperando para Kubernetes con Transparent Read/Write Splitting

Nicolás Georger — Thu, 16 Nov 2023 19:07:03 +0000

Oracle ha anunciado recientemente la disponibilidad general de MySQL 8.2 , que incluye soporte para división de lectura/escritura (read/write splitting). Esta característica tan esperada se introdujo en la última versión de innovación (un equivalente a "release candidate"), que ayuda a optimizar el rendimiento y la escalabilidad de la base de datos.

Read-write splitting permite a las aplicaciones dirigir de forma transparente todo el tráfico de escritura a instancias de lectura-escritura (primarias/sources) y todo el tráfico de lectura a instancias de sólo lectura, dependiendo del tipo de instancia (InnoDB Cluster o Replica Cluster).

Frederic Descamps , administrador de la comunidad MySQL, explica:

"A gran escala, distribuimos las lecturas entre las réplicas, pero esto debe gestionarse de alguna manera en la aplicación: apuntando las escrituras a un lugar y las lecturas a otro lugar. Desde MySQL 8.2, MySQL Router ahora puede identificar las lecturas y escrituras, para luego enrutarlas a instancias primarias en el caso de un clúster InnoDB, o a una fuente de replicación asincrónica para las escrituras y a instancias secundarias o réplicas para las lecturas."

Puedes realizar tu mismo una simple PoC (proof of concept/prueba de concepto), utilizando mysql-operator:

](https://github.com/mysql/mysql-operator/tree/8.2.0-2.1.1/deploy?ref=sredevops.org)

Necesitarás desplegar los siguientes manifiestos:


kubectl apply -f "https://github.com/mysql/mysql-operator/blob/8.2.0-2.1.1/deploy/deploy-crds.yaml" # CRDs

kubectl apply -f "https://github.com/mysql/mysql-operator/blob/8.2.0-2.1.1/deploy/deploy-operator.yaml" # Operator

kubectl apply -f "https://github.com/mysql/mysql-operator/blob/8.2.0-2.1.1/samples/sample-secret.yaml" # Secret (recomendado editar)

kubectl apply -f "https://github.com/mysql/mysql-operator/blob/8.2.0-2.1.1/samples/sample-cluster.yaml" # Cluster 3 instancias 1 router

Basado en: https://www.infoq.com/news/2023/11/mysql-read-write-splitting/

Lectura complementaria: https://lefred.be/content/mysql-8-2-read-write-splitting-a-what-cost/