Tag: ai
-
Nach Anthropic, OpenAI und Meta – Googles KI Gemini hackte ebenfalls andere Unternehmen
First seen on security-insider.de Jump to article: www.security-insider.de/google-gemini-hackte-sicherheitstests-fremde-systeme-a-d65d8622ecab4b164e8d78b9697fcf25/
-
One Hidden Meta Muse Setting Could Let Attackers Turn the AI Assistant Into a Backdoor
Malware already running on a Mac can quietly take over Meta’s Muse assistant and use the broad access its owner granted the app, security researcher Patrick Wardle has shown in a proof-of-concept released on September 21.It works by changing a hidden setting so that when the user taps the microphone and dictates a prompt, the…
-
69 Prozent der Unternehmen opfern KI-Sicherheit für Tempo – Shadow AI ist kein Regelverstoß, sondern ein Kontrollproblem
Tags: aiFirst seen on security-insider.de Jump to article: www.security-insider.de/shadow-ai-kontrollproblem-a-5df802d883379f9ac3361e8b634dc484/
-
DACH-Unternehmen stellen neue Anforderungen an KI und Cybersecurity-Anbieter
Management Summary Der Arctic Wolf AI & Cybersecurity Trends Report 2026 zeigt: Unternehmen setzen KI zunehmend als festen Bestandteil ihrer Sicherheitsstrategie ein, bleiben bei autonomen Entscheidungen jedoch vorsichtig. Für DACH-Unternehmen rücken kontrollierbare KI, menschliche Aufsicht, digitale Souveränität und europäische Sicherheitsstrukturen in den Mittelpunkt der Anbieterbewertung. Der manage-it-Blick darauf: KI wird zum Pflichtbaustein moderner Security Operations……
-
Analyse zu KI-gestützten Cyberangriffen und Modell-Ausbrüchen
Management Summary KI wird zur neuen Angriffsoberfläche: Der aktuelle »AI Threat Landscape Digest« von Check Point Research zeigt, wie Testmodelle aus isolierten Umgebungen ausbrechen, Cyberkriminelle KI-Tools für autonome Angriffsketten nutzen und Unternehmen mit einer rasant wachsenden Patch- und Governance-Komplexität konfrontiert werden. Für Entscheider wird damit klar: KI-Sicherheit ist nicht länger ein Spezialthema der IT, sondern……
-
Schatten-KI bleibt trotz wachsender KI-Reife ein verbreitetes Problem
Management Summary Der AI Governance Benchmark 2026 zeigt: Unternehmen bringen KI zwar zunehmend produktiv in zentrale Prozesse, doch die Steuerungsmechanismen halten mit dieser Dynamik nur bedingt Schritt. Besonders Schatten-KI wird zum Management-Thema, weil nicht freigegebene GenAI-Tools operative Effizienz versprechen, zugleich aber Datenschutz, Sicherheit und Compliance unterlaufen können. Schatten-KI ist kein Randphänomen: In 42 Prozent der……
-
Vertrauensarchitekturen für KI-Agenten: Identität, Berechtigungen und kontrollierbarer Einsatz
Autonome KI-Systeme benötigen überprüfbare Identitäten, klare Zugriffsgrenzen und Mechanismen zur schnellen Entziehung von Berechtigungen. KI-Agenten entwickeln sich vom Assistenzsystem zum eigenständig handelnden digitalen Akteur. Damit steigen die Anforderungen an Identität, Berechtigungen, Governance und schnelle Reaktionsfähigkeit. Unternehmen benötigen deshalb Vertrauensarchitekturen, die autonome Systeme eindeutig zuordnen, kontrollieren und bei Bedarf sofort begrenzen können. Management Summary KI-Agenten… First…
-
European AI spending is on track to reach nearly $470 billion by 2030
Tags: aiEuropean organizations will spend nearly $470 billion on AI in 2030, IDC forecasts, with spending growing at a compound annual rate of 35% from 2025. At that rate, the market … First seen on helpnetsecurity.com Jump to article: www.helpnetsecurity.com/2026/09/22/idc-european-ai-spending/
-
Meta’s Muse AI 0-Day Lets Hackers Hijack Dictation Traffic and Inject Malicious Prompts
A recent proof-of-concept (PoC) developed by security researcher Patrick Wardle reveals a local zero-day vulnerability in the Muse application. This vulnerability allows malware running under the logged-in user’s account to redirect dictation traffic to a server controlled by an attacker. Meta’s Muse AI 0-Day The issue is documented in Wardle’s >>not-a-mused<< research repository. It focuses…
-
DACH-Unternehmen stellen neue Anforderungen an KI und Cybersecurity-Anbieter
Management Summary Der Arctic Wolf AI & Cybersecurity Trends Report 2026 zeigt: Unternehmen setzen KI zunehmend als festen Bestandteil ihrer Sicherheitsstrategie ein, bleiben bei autonomen Entscheidungen jedoch vorsichtig. Für DACH-Unternehmen rücken kontrollierbare KI, menschliche Aufsicht, digitale Souveränität und europäische Sicherheitsstrukturen in den Mittelpunkt der Anbieterbewertung. Der manage-it-Blick darauf: KI wird zum Pflichtbaustein moderner Security Operations……
-
Muse, Meta’s extraordinarily privileged AI assistant, has a serious 0-day
A simple ClickFix attack is only one way to completely hijack the new agent. First seen on arstechnica.com Jump to article: arstechnica.com/security/2026/09/muse-metas-extraordinarily-privileged-ai-assistant-has-a-serious-0-day/
-
Alexey Tulia at Tech Race Summit: how AI agents are changing engineering leadership
Tags: aiAlexey Tulia, Executive Leader at Coinspaid Dev, discussed the changing role of engineers and CTOs during the AI… First seen on hackread.com Jump to article: hackread.com/alexey-tulia-tech-race-summit-ai-agents-engineering-leadership/
-
Integrating AI Tools Into Research Teams: Productivity Benefits and Risks
AI tools are finding a place in research workflows, particularly for tasks such as transcription, summarization, and qualitative… First seen on hackread.com Jump to article: hackread.com/integrating-ai-tools-into-research-teams/
-
No One Has Any Idea What Trump’s ‘AI Force’ Would Do
Tags: aiAnalysts Question Potential Conflicts of Interest for Federal AI Tzar, Task Force. President Donald Trump says he is forming an AI Force modeled on Space Force and will soon name an AI czar. The announcement came with no mission, budget or home agency, and the czar role carries a history of conflict-of-interest questions as insiders…
-
How AI Agents Can Trigger Runaway Costs for Enterprises
Unbounded consumption is an issue that OWASP currently ranks sixth in its Top 10 for LLM Applications, and it could be an extremely costly one. First seen on darkreading.com Jump to article: www.darkreading.com/application-security/how-ai-agents-can-trigger-runaway-costs
-
Black Hat USA 2026: Machine Speed, Human Consequence
ISMG Pulse Report Covers AI Attack Surface, Vulnerability Management and Identity. ISMG’s Pulse Report: Machine Speed, Human Consequence includes six chapters examining the agentic attack surface, vulnerability management, identity and authority, adversary operations, governance and liability, and the changing role of cybersecurity professionals. First seen on govinfosecurity.com Jump to article: www.govinfosecurity.com/black-hat-usa-2026-machine-speed-human-consequence-a-32877
-
SailPoint CEO Mark McClain: When AI Can Move ‘Thousands’ Of Times Faster Than Humans, Identity Security Is Key
While human hackers can only move so fast, the arrival of autonomous agents capable of attacking at unprecedented speeds should result in a ‘completely different calculus’ for identity and security teams, SailPoint CEO Mark McClain says during the latest episode of CRN’s Security or Else! podcast. First seen on crn.com Jump to article: www.crn.com/news/security/2026/sailpoint-ceo-mark-mcclain-when-ai-can-move-thousands-of-times-faster-than-humans-identity-security-is-key
-
Rogue Behavior: OpenAI Reveals More Model Misalignment Incidents
The AI giant disclosed six examples of concerning model activity and published a new framework for investigating and disclosing such incidents. First seen on darkreading.com Jump to article: www.darkreading.com/cyber-risk/rogue-behavior-openai-more-model-misalignment-incidents
-
âš¡ Weekly Recap: Cisco 0-Day, AI Agent RCE, ClickFix Attacks, ClickFix Surge, and Browser Hijacks
A browser. A plugin. A package. A login screen. Normal stuff. That is basically the problem this week.The trouble keeps showing up inside things people already trust: code that takes a bad turn, old payloads coming back, exposed systems, weak checks, fake fixes, and attack paths that look almost too easy. Even the research side…
-
Analyse zu KI-gestützten Cyberangriffen und Modell-Ausbrüchen
Check Point Research (CPR) hat in einem neuen Bericht die wichtigsten KI-Zwischenfälle aus den Monaten Juli und August analysiert. Dabei haben die Forscher sowohl die Ausbrüche von Testmodellen bekannter KI-Anbieter als auch KI-gesteuerte Angriffe von Cyberkriminellen untersucht und die Ursachen, Abläufe und Folgen dieser Fälle festgehalten. Die Sicherheitsforschungsabteilung von Check Point Software Technologies hat die…
-
Analyse zu KI-gestützten Cyberangriffen und Modell-Ausbrüchen
Check Point Research (CPR) hat in einem neuen Bericht die wichtigsten KI-Zwischenfälle aus den Monaten Juli und August analysiert. Dabei haben die Forscher sowohl die Ausbrüche von Testmodellen bekannter KI-Anbieter als auch KI-gesteuerte Angriffe von Cyberkriminellen untersucht und die Ursachen, Abläufe und Folgen dieser Fälle festgehalten. Die Sicherheitsforschungsabteilung von Check Point Software Technologies hat die…
-
Analyse zu KI-gestützten Cyberangriffen und Modell-Ausbrüchen
Check Point Research (CPR) hat in einem neuen Bericht die wichtigsten KI-Zwischenfälle aus den Monaten Juli und August analysiert. Dabei haben die Forscher sowohl die Ausbrüche von Testmodellen bekannter KI-Anbieter als auch KI-gesteuerte Angriffe von Cyberkriminellen untersucht und die Ursachen, Abläufe und Folgen dieser Fälle festgehalten. Die Sicherheitsforschungsabteilung von Check Point Software Technologies hat die…
-
Google says Gemini breached three companies during security test
Google’s artificial intelligence model Gemini accessed computer systems belonging to three real companies without authorization during a cybersecurity test in May, the latest in a string of similar incidents. First seen on therecord.media Jump to article: therecord.media/gemini-google-cyber-breach
-
Rubrik Code Guardian: Frontier-KI wird zum Red Team für Unternehmenscode
Rubrik Code Guardian nutzt Claude Mythos 5, um Quellcode isoliert auf ausnutzbare Schwachstellen und komplexe Angriffsketten zu untersuchen. First seen on infopoint-security.de Jump to article: www.infopoint-security.de/rubrik-code-guardian-frontier-ki-wird-zum-red-team-fuer-unternehmenscode/a46440/
-
CrowdStrike warns AI agents are creating a cyber battleground for GCC organisations
Artificial intelligence is lowering the barrier to entry for cyber criminals, accelerating attack speeds and increasing the complexity of threats, prompting organisations to rethink resilience, governance and security operations First seen on computerweekly.com Jump to article: www.computerweekly.com/news/366650857/CrowdStrike-warns-AI-agents-are-creating-a-cyber-battleground-for-GCC-organisations
-
US and China Discuss Alerting Each Other to AI National Security Threats
Officials discussed setting up a mechanism for the two countries to notify each other of AI incidents which could threaten national security. First seen on wired.com Jump to article: www.wired.com/story/us-and-china-discuss-alerting-each-other-to-ai-national-security-threats/
-
US and China Discuss Alerting Each Other to AI National Security Threats
Officials discussed setting up a mechanism for the two countries to notify each other of AI incidents which could threaten national security. First seen on wired.com Jump to article: www.wired.com/story/us-and-china-discuss-alerting-each-other-to-ai-national-security-threats/
-
US and China Discuss Alerting Each Other to AI National Security Threats
Officials discussed setting up a mechanism for the two countries to notify each other of AI incidents which could threaten national security. First seen on wired.com Jump to article: www.wired.com/story/us-and-china-discuss-alerting-each-other-to-ai-national-security-threats/
-
US and China Discuss Alerting Each Other to AI National Security Threats
Officials discussed setting up a mechanism for the two countries to notify each other of AI incidents which could threaten national security. First seen on wired.com Jump to article: www.wired.com/story/us-and-china-discuss-alerting-each-other-to-ai-national-security-threats/