De twee gezichten van generatieve AI: industriële innovatie of risico zonder vangnet? > Nieuws

De laatste tijd gebruiken binnenlandse en buitenlandse industrieën generatieve AI als een belangrijke motor voor bedrijfsinnovatie. Na de introductie van ChatGPT door Samsung Electronics op bedrijfsbreed niveau heeft SK Hynix ook zijn beveiligingssysteem herzien en het gebruik van extern gegenereerde AI geformaliseerd. Dit is niet simpelweg het volgen van trends, maar een strategische keuze om het concurrentievermogen op de wereldmarkt veilig te stellen door de efficiëntie van het onderzoeks- en ontwikkelingsproces (R&D) te maximaliseren en de besluitvorming te versnellen. Samsung Electronics heeft door middel van interne tests zelfs bevestigd dat ChatGPT de hoogste zakelijke geschiktheid en gebruikerstevredenheid heeft, en koppelt dit aan de groepsbrede AI-conversiestrategie (AX). Bedrijven kiezen nu technologieën die verder gaan dan de prestaties van hun AI-modellen, op basis van hoe goed ze werken in reële situaties en hoe nauwkeurig de intentie van de gestelde vraag wordt weergegeven.

Er stroomt echter kritiek binnen dat de veiligheidsmaatregelen die dit ondersteunen nog steeds zwak zijn vergeleken met de snelheid waarmee de technologie zich verspreidt. Procureurs-generaal uit twaalf staten in de VS hebben OpenAI dagvaardingen uitgevaardigd, waarbij ze zich richtten op de veiligheidsproblemen van ChatGPT. Dit is een waarschuwing dat we de sociale bijwerkingen die AI kan veroorzaken niet langer kunnen negeren, zoals het verband met misdaad, problemen met de bescherming van minderjarigen en antwoorden die de psychologische angst van gebruikers vergroten. In feite is Open AI het middelpunt van de juridische en ethische verantwoordelijkheid geworden, omdat er vermoedens zijn gerezen dat de verdachte van de schietpartij AI heeft gebruikt om de misdaad te plannen of dat de reacties van AI de extreme keuzes van bepaalde mensen hebben beïnvloed. Vanuit het perspectief van Open AI, dat zich voorbereidt op een beursintroductie (IPO), fungeren de onderzoeken van deze regelgevende instanties als een enorme variabele die de onzekerheid in het noteringsproces vergroot.

Zelfs voor individuele gebruikers fungeert AI als een tweesnijdend zwaard. Onlangs zijn er een aantal gevallen geweest van ongeoorloofde betaling van grote geldbedragen als gevolg van de diefstal van kaartinformatie van mensen die ChatGPT nog nooit hebben gebruikt, waardoor een gat in het beveiligingssysteem aan het licht is gekomen. Dit is meer dan alleen een technische fout, het is een ernstig beveiligingsincident dat de betrouwbaarheid van het platform fundamenteel bedreigt. Naarmate het aantal jongeren dat AI kiest in plaats van mensen als adviescentrum toeneemt, zijn, net als in het geval van Japan, ook de beperkingen van het advies van AI en de kwesties van verantwoordelijkheid aan het licht gekomen. Hoewel AI over een uitstekende intelligentie beschikt om details aan te wijzen die mensen over het hoofd zien, mogen we nooit vergeten dat AI geen enkele verantwoordelijkheid draagt ​​voor de resultaten van haar antwoorden.

Niettemin functioneert het potentieel van generatieve AI nog steeds als een warme technologie die sociale barrières slechtt. De Busan International Council for the Disabled publiceerde een verzameling uitspraken met illustraties gemaakt door mensen met een handicap met behulp van AI, waaruit een voorbeeld blijkt van de digitaal achtergestelde klasse die zelfverzekerde makers wordt die verder gaan dan de consumenten van technologie. Dit bewijst de waarde van AI als technologische welvaart en suggereert de juiste richting waarin we ons moeten bewegen. Ondertussen blijft op de Koreaanse markt de hevige concurrentie tussen diensten voortduren, waarbij Antropic's 'Claude' het tweeledige systeem van ChatGPT en Gemini opschudt en naar de tweede plaats in de verkoop springt. Deze marktdynamiek biedt gebruikers betere opties, maar suggereert tegelijkertijd dat de voorzichtige aanpak en het informatiebeschermingsbewustzijn van gebruikers die verschillende modellen parallel gebruiken steeds belangrijker worden.