<?xml version="1.0" encoding="utf-8"?><feed xmlns="http://www.w3.org/2005/Atom" xml:lang="pl"><generator uri="https://jekyllrb.com/" version="4.4.1">Jekyll</generator><link href="https://skszymon.eu/feed.xml" rel="self" type="application/atom+xml"/><link href="https://skszymon.eu/" rel="alternate" type="text/html" hreflang="pl"/><updated>2026-07-10T13:50:57+00:00</updated><id>https://skszymon.eu/feed.xml</id><title type="html">blank</title><subtitle>Szymon Kowalewski — Data Governance Specialist. Blog o AI, Data Governance/Quality oraz self-hostingu. </subtitle><entry><title type="html">Wymiary jakości danych: praktyczny przewodnik po Data Quality</title><link href="https://skszymon.eu/blog/2026/data-quality-dimensions/" rel="alternate" type="text/html" title="Wymiary jakości danych: praktyczny przewodnik po Data Quality"/><published>2026-03-04T01:30:00+00:00</published><updated>2026-03-04T01:30:00+00:00</updated><id>https://skszymon.eu/blog/2026/data-quality-dimensions</id><content type="html" xml:base="https://skszymon.eu/blog/2026/data-quality-dimensions/"><![CDATA[<h1 id="wymiary-jakości-danych-praktyczny-przewodnik-po-data-quality">Wymiary jakości danych: praktyczny przewodnik po Data Quality</h1> <p>Data Governance to nie tylko polityki i standardy - to przede wszystkim <strong>jakość danych</strong>, na których opieramy decyzje biznesowe. W tym artykule zagłębiam się w praktyczne aspekty Data Quality: od sześciu kluczowych wymiarów, przez mierzenie jakości, po konkretne strategie wdrożeniowe.</p> <hr/> <h2 id="dlaczego-data-quality-to-fundament-data-governance">Dlaczego Data Quality to fundament Data Governance?</h2> <p>Każdy, kto pracował z danymi w korporacyjnym środowisku, zna scenariusz: raport, który nie zgadza się z innym raportem. Klient widniejący w systemie pod trzema różnymi nazwami. Adres e-mail, w którym brakuje znaku <code class="language-plaintext highlighter-rouge">@</code>.</p> <p>Te problemy wydają się drobne, ale ich kumulacja prowadzi do poważnych konsekwencji:</p> <ul> <li><strong>Błędne decyzje biznesowe</strong> - kiedy dashboard pokazuje przychody zawyżone o 15%, bo duplikaty klientów zaburzają agregacje</li> <li><strong>Straty finansowe</strong> - Gartner szacuje, że niska jakość danych kosztuje organizacje średnio <strong>12,9 miliona dolarów rocznie</strong></li> <li><strong>Problemy z compliance</strong> - niepoprawne dane osobowe mogą naruszać RODO i skutkować karami</li> </ul> <p>Data Quality nie jest więc „miłym dodatkiem” - to <strong>warunek konieczny</strong> do tego, żeby Data Governance miało sens.</p> <hr/> <h2 id="sześć-wymiarów-jakości-danych">Sześć wymiarów jakości danych</h2> <p>W branży przyjęło się mówić o sześciu fundamentalnych wymiarach Data Quality. Każdy z nich patrzy na dane z innej perspektywy, a razem tworzą kompletny obraz jakości.</p> <h3 id="1-dokładność-accuracy">1. Dokładność (Accuracy)</h3> <p>Dokładność mierzy, na ile dane odzwierciedlają rzeczywistość. To najbardziej intuicyjny wymiar - jeśli klient ma 35 lat, a w systemie widnieje 53, mamy problem z dokładnością.</p> <p><strong>Jak mierzyć?</strong></p> <ul> <li>Porównanie z wiarygodnym źródłem referencyjnym (np. GUS, REGON, rejestr KRS)</li> <li>Losowe próbkowanie i weryfikacja manualna</li> <li>Reguły walidacyjne (np. PESEL musi mieć prawidłową sumę kontrolną)</li> </ul> <p><strong>Przykład metryki:</strong></p> <div class="language-plaintext highlighter-rouge"><div class="highlight"><pre class="highlight"><code>Accuracy = (rekordów poprawnych / rekordów ogółem) × 100%
</code></pre></div></div> <h3 id="2-kompletność-completeness">2. Kompletność (Completeness)</h3> <p>Kompletność określa, czy wszystkie wymagane pola i rekordy są obecne. Brak numeru telefonu w bazie kontaktowej to problem kompletności.</p> <p>Warto rozróżniać trzy poziomy:</p> <ul> <li><strong>Kompletność atrybutu</strong> - czy pole jest wypełnione?</li> <li><strong>Kompletność rekordu</strong> - czy rekord ma wszystkie wymagane pola?</li> <li><strong>Kompletność zbioru</strong> - czy w zbiorze są wszystkie oczekiwane rekordy?</li> </ul> <p><strong>Przykład metryki:</strong></p> <div class="language-plaintext highlighter-rouge"><div class="highlight"><pre class="highlight"><code>Completeness = (pól niepustych / pól wymaganych ogółem) × 100%
</code></pre></div></div> <h3 id="3-spójność-consistency">3. Spójność (Consistency)</h3> <p>Spójność sprawdza, czy te same dane mają tę samą wartość w różnych systemach i kontekstach. Jeśli system CRM mówi, że klient mieszka w Gdyni, a system fakturowy - w Gdańsku, mamy niespójność.</p> <p><strong>Typy niespójności:</strong></p> <ul> <li><strong>Między systemami</strong> - różne wartości w CRM, ERP, DWH</li> <li><strong>W obrębie rekordu</strong> - kod pocztowy z Warszawy, a miasto: Kraków</li> <li><strong>Czasowa</strong> - dane aktualizowane w jednym systemie, nieaktualizowane w drugim</li> </ul> <p><strong>Przykład metryki:</strong></p> <div class="language-plaintext highlighter-rouge"><div class="highlight"><pre class="highlight"><code>Consistency = (rekordów spójnych między systemami / rekordów ogółem) × 100%
</code></pre></div></div> <h3 id="4-aktualność-timeliness">4. Aktualność (Timeliness)</h3> <p>Aktualność mierzy, czy dane odzwierciedlają bieżący stan rzeczywistości. Adres klienta sprzed 5 lat nie jest aktualny, nawet jeśli był poprawny w momencie wprowadzenia.</p> <p><strong>Dwa aspekty aktualności:</strong></p> <ul> <li><strong>Świeżość</strong> - jak szybko dane trafiają do systemu po ich powstaniu?</li> <li><strong>Ważność</strong> - czy dane nadal odpowiadają rzeczywistości?</li> </ul> <p><strong>Przykład metryki:</strong></p> <div class="language-plaintext highlighter-rouge"><div class="highlight"><pre class="highlight"><code>Timeliness = średni czas od powstania danych do ich dostępności w systemie
</code></pre></div></div> <h3 id="5-unikalność-uniqueness">5. Unikalność (Uniqueness)</h3> <p>Unikalność oznacza, że każdy byt rzeczywisty jest reprezentowany w zbiorze danych dokładnie raz. Duplikaty to jeden z najczęstszych problemów jakościowych.</p> <p><strong>Dlaczego duplikaty są groźne?</strong></p> <ul> <li>Zaburzają agregacje (raport sprzedaży zlicza tego samego klienta dwa razy)</li> <li>Prowadzą do wysyłania wielu komunikacji do tej samej osoby</li> <li>Utrudniają budowanie złotego rekordu (<code class="language-plaintext highlighter-rouge">golden record</code>) w MDM</li> </ul> <p><strong>Przykład metryki:</strong></p> <div class="language-plaintext highlighter-rouge"><div class="highlight"><pre class="highlight"><code>Uniqueness = (rekordów unikalnych / rekordów ogółem) × 100%
</code></pre></div></div> <h3 id="6-zgodność-formatu-validity">6. Zgodność formatu (Validity)</h3> <p>Zgodność formatu sprawdza, czy dane pasują do zdefiniowanego schematu, formatu lub zakresu dozwolonych wartości. Numer telefonu w polu e-mail czy data urodzenia w przyszłości to przykłady problemów z walidacją.</p> <p><strong>Przykłady reguł walidacyjnych:</strong></p> <ul> <li>E-mail zawiera <code class="language-plaintext highlighter-rouge">@</code> i domenę</li> <li>Kod pocztowy ma format <code class="language-plaintext highlighter-rouge">XX-XXX</code></li> <li>Wartość zamówienia jest liczbą &gt; 0</li> <li>Data urodzenia nie jest z przyszłości</li> </ul> <p><strong>Przykład metryki:</strong></p> <div class="language-plaintext highlighter-rouge"><div class="highlight"><pre class="highlight"><code>Validity = (rekordów zgodnych z regułami / rekordów ogółem) × 100%
</code></pre></div></div> <hr/> <h2 id="od-wymiarów-do-praktyki-jak-wdrożyć-data-quality">Od wymiarów do praktyki: jak wdrożyć Data Quality?</h2> <p>Znajomość wymiarów to dopiero początek. Prawdziwe wyzwanie polega na zbudowaniu procesu, który <strong>systematycznie mierzy, monitoruje i poprawia jakość danych</strong>.</p> <h3 id="krok-1-profilowanie-danych">Krok 1: Profilowanie danych</h3> <p>Zanim zaczniesz poprawiać, musisz wiedzieć, co masz. Profilowanie danych (<code class="language-plaintext highlighter-rouge">data profiling</code>) to analiza statystyczna istniejących zbiorów, która ujawnia:</p> <ul> <li>Rozkład wartości w kolumnach</li> <li>Procent pustych pól</li> <li>Wzorce i anomalie</li> <li>Potencjalne duplikaty</li> </ul> <p>Narzędzia takie jak <strong>Ataccama ONE</strong> czy <strong>Informatica Data Quality</strong> automatyzują ten proces, generując raporty profilowania w minuty zamiast dni.</p> <h3 id="krok-2-definiowanie-reguł-biznesowych">Krok 2: Definiowanie reguł biznesowych</h3> <p>Na podstawie profilowania i rozmów z właścicielami danych (<code class="language-plaintext highlighter-rouge">data owners</code>) definiujesz reguły jakościowe:</p> <div class="language-plaintext highlighter-rouge"><div class="highlight"><pre class="highlight"><code>Reguła: "Każdy klient musi mieć poprawny NIP"
Wymiar: Validity + Completeness
Próg akceptacji: 99,5%
Właściciel: Data Steward ds. klientów
Częstotliwość pomiaru: dziennie
</code></pre></div></div> <h3 id="krok-3-budowanie-data-quality-scorecard">Krok 3: Budowanie Data Quality scorecard</h3> <p>Scorecard to zbiorczy widok jakości danych, który łączy metryki z różnych wymiarów w jeden, przejrzysty obraz. Zwykle prezentowany jako dashboard z kolorami semafora:</p> <ul> <li>🟢 <strong>Zielony</strong> (&gt;95%) - jakość w normie</li> <li>🟡 <strong>Żółty</strong> (85-95%) - wymaga uwagi</li> <li>🔴 <strong>Czerwony</strong> (&lt;85%) - wymaga natychmiastowej interwencji</li> </ul> <h3 id="krok-4-automatyzacja-i-monitorowanie">Krok 4: Automatyzacja i monitorowanie</h3> <p>Data Quality to nie projekt jednorazowy - to <strong>proces ciągły</strong>. Kluczowe elementy automatyzacji:</p> <ul> <li><strong>Reguły walidacyjne</strong> uruchamiane automatycznie przy ładowaniu danych (<a href="/garden/etl">ETL</a>/<a href="/garden/elt">ELT</a>)</li> <li><strong>Alerty</strong> wysyłane do data stewardów, gdy metryka spada poniżej progu</li> <li><strong>Raporty trendów</strong> pokazujące, jak jakość zmienia się w czasie</li> <li><strong>Data remediation workflows</strong> - przepływy pracy do naprawy wykrytych problemów</li> </ul> <hr/> <h2 id="narzędzia-data-quality-na-rynku">Narzędzia Data Quality na rynku</h2> <p>Na rynku dostępnych jest wiele narzędzi wspierających zarządzanie jakością danych. Z mojego doświadczenia wynikają następujące obserwacje:</p> <table> <thead> <tr> <th>Narzędzie</th> <th>Mocne strony</th> <th>Zastosowanie</th> </tr> </thead> <tbody> <tr> <td><strong>Ataccama ONE</strong></td> <td>AI-powered profilowanie, zintegrowany DQ + DG + MDM</td> <td>Kompleksowe wdrożenia</td> </tr> <tr> <td><strong>Informatica DQ</strong></td> <td>Głęboka integracja z ekosystemem Informatica</td> <td>Enterprise</td> </tr> <tr> <td><strong>Great Expectations</strong></td> <td>Open source, Python-first, CI/CD</td> <td>Zespoły data engineering</td> </tr> <tr> <td><strong>dbt tests</strong></td> <td>Testy jakości jako kod, integracja z pipeline</td> <td>Nowoczesne data stacki</td> </tr> <tr> <td><strong>Monte Carlo</strong></td> <td>Data observability, automatyczne wykrywanie anomalii</td> <td>Monitoring</td> </tr> </tbody> </table> <p>Nie ma jednego idealnego narzędzia - wybór zależy od dojrzałości organizacji, stosu technologicznego i budżetu. Często najlepszym podejściem jest kombinacja: platforma enterprise (jak Ataccama) do governance i korporacyjnych KPI, plus lekkie narzędzia (jak Great Expectations) w pipeline’ach inżynieryjnych.</p> <hr/> <h2 id="najczęstsze-błędy-przy-wdrażaniu-data-quality">Najczęstsze błędy przy wdrażaniu Data Quality</h2> <p>Na koniec - lista pułapek, które widziałem w praktyce:</p> <ol> <li><strong>Brak sponsora biznesowego</strong> - DQ traktowane jako “projekt IT” zamiast inicjatywy biznesowej</li> <li><strong>Za dużo reguł na start</strong> - lepiej zacząć od 10 krytycznych reguł niż od 500</li> <li><strong>Brak właściciela danych</strong> - jeśli nikt nie jest odpowiedzialny za jakość, nikt jej nie poprawi</li> <li><strong>Skupienie na narzędziu, nie na procesie</strong> - nawet najlepsze narzędzie nie pomoże bez jasnych procedur</li> <li><strong>Jednorazowy audit zamiast ciągłego monitoringu</strong> - jakość danych degraduje się z czasem</li> </ol> <hr/> <h2 id="podsumowanie">Podsumowanie</h2> <p>Data Quality to serce każdego programu Data Governance. Sześć wymiarów - <code class="language-plaintext highlighter-rouge">dokładność</code>, <code class="language-plaintext highlighter-rouge">kompletność</code>, <code class="language-plaintext highlighter-rouge">spójność</code>, <code class="language-plaintext highlighter-rouge">aktualność</code>, <code class="language-plaintext highlighter-rouge">unikalność</code> i <code class="language-plaintext highlighter-rouge">zgodność formatu</code> - daje nam framework do systematycznego myślenia o jakości.</p> <p>Ale teoria bez praktyki jest bezużyteczna. Kluczem jest:</p> <ul> <li>Zacząć od <strong>profilowania</strong> i zrozumienia stanu obecnego</li> <li>Zdefiniować <strong>mierzalne reguły</strong> z konkretnymi progami</li> <li>Zbudować <strong>ciągły proces</strong> monitorowania i naprawy</li> <li>Wspierać się <strong>narzędziami</strong>, ale nie polegać wyłącznie na nich</li> </ul> <p>W kolejnych artykułach planuję zagłębić się w praktyczne aspekty <strong>Master Data Management</strong> oraz <strong>Data Catalog</strong> - kluczowych elementów ekosystemu Data Governance.</p> <blockquote> <p>🌱 Więcej pojęć z zakresu Data Engineering, Data Quality i AI znajdziesz w moim <a href="/garden/">Ogrodzie Wiedzy</a>.</p> </blockquote> <hr/> <p><em>Jeśli masz pytania lub chcesz podzielić się swoimi doświadczeniami z wdrażania Data Quality, zapraszam do komentarzy poniżej.</em></p>]]></content><author><name></name></author><category term="data-governance"/><category term="data-governance"/><category term="data-quality"/><category term="data-management"/><category term="ataccama"/><summary type="html"><![CDATA[6 wymiarów jakości danych, metryki, praktyczne wdrożenie i narzędzia - wszystko, co musisz wiedzieć o Data Quality w kontekście Data Governance.]]></summary></entry><entry><title type="html">AI w Data Governance: szanse, wyzwania i praktyczne zastosowania</title><link href="https://skszymon.eu/blog/2025/ai-models-dg/" rel="alternate" type="text/html" title="AI w Data Governance: szanse, wyzwania i praktyczne zastosowania"/><published>2025-10-18T20:30:00+00:00</published><updated>2025-10-18T20:30:00+00:00</updated><id>https://skszymon.eu/blog/2025/ai-models-dg</id><content type="html" xml:base="https://skszymon.eu/blog/2025/ai-models-dg/"><![CDATA[<h1 id="ai-w-data-governance-jak-sztuczna-inteligencja-zmienia-zasady-gry">AI w Data Governance: jak sztuczna inteligencja zmienia zasady gry</h1> <p>Zwykle mówimy, że „dane to paliwo AI”. Ale jest też druga strona medalu — <strong>dane mogą być hamulcem bezpieczeństwa i dźwignią regulacyjną</strong>. Ten post bazuje na pracy <a href="https://arxiv.org/abs/2412.03824v2"><em>„Towards Data Governance of Frontier AI Models”</em></a> z arXiv i moich własnych obserwacjach z codziennej pracy w Data Governance.</p> <p>Teza jest prosta: governance danych powinno stać się <strong>trzecim filarem</strong> obok mocy obliczeniowej (compute governance) i ewaluacji modeli (model evaluations).</p> <hr/> <h2 id="ai-jako-narzędzie-w-data-governance">AI jako narzędzie w Data Governance</h2> <p>Do niedawna Data Governance było w dużej mierze procesem manualnym — ręczne tagowanie danych, ręczne audyty, ręczne sprawdzanie kompletności. AI zmienia tę dynamikę fundamentalnie.</p> <h3 id="automatyczna-klasyfikacja-danych">Automatyczna klasyfikacja danych</h3> <p>Wyobraź sobie tysiące tabel i kolumn w hurtowni danych. Które zawierają PII (dane osobowe)? Które są danymi finansowymi? Modele NLP potrafią „przeczytać” metadane, przykładowe wartości i nazwy kolumn, a następnie automatycznie otagować: <em>„PESEL”</em>, <em>„adres e-mail”</em>, <em>„numer konta bankowego”</em>.</p> <p>To fundament każdej strategii DG — i zadanie, które ręcznie wymagałoby setek godzin pracy. Narzędzia takie jak <a href="/blog/2025/ataccama/">Ataccama ONE</a> czy <a href="/blog/2025/informatica/">Informatica CLAIRE</a> wykorzystują AI do tego celu.</p> <h3 id="inteligentne-monitorowanie-anomalii">Inteligentne monitorowanie anomalii</h3> <p>Zamiast sztywnych reguł (<em>„alert, jeśli pole jest puste”</em>), AI analizuje wzorce zachowań. Jeśli w poniedziałek zawsze ładujemy 10k rekordów, a dziś pojawiło się 500 — to anomalia. Jeśli pracownik z działu marketingu nagle pobiera masowo dane klientów o 3 nad ranem — to potencjalny incydent.</p> <p>Narzędzia z kategorii <strong>data observability</strong> (np. <a href="https://www.montecarlodata.com/">Monte Carlo</a>, <a href="https://www.bigeye.com/">Bigeye</a>) bazują właśnie na tym podejściu.</p> <h3 id="automatyzacja-data-lineage">Automatyzacja Data Lineage</h3> <p>AI potrafi dynamicznie śledzić przepływ danych między systemami i budować mapy lineage — zadanie, które ręcznie jest „koszmarnie trudne” (cytując każdego analityka, który próbował). Dynamiczny lineage jest kluczowy dla audytów i compliance z <a href="https://gdpr.eu/">RODO</a> — musisz wiedzieć, skąd pochodzą dane i przez jakie transformacje przeszły.</p> <h3 id="zarządzanie-jakością-danych">Zarządzanie jakością danych</h3> <p>AI wykrywa duplikaty (nawet jeśli nie są identyczne — np. „Jan Kowalski” vs „J. Kowalski”), brakujące pola i niespójności. Więcej o wymiarach DQ napisałem w <a href="/blog/2026/data-quality-dimensions/">dedykowanym artykule</a>.</p> <hr/> <h2 id="dlaczego-ai-potrzebuje-data-governance">Dlaczego AI potrzebuje Data Governance?</h2> <p>Relacja jest dwustronna. Modele AI — szczególnie Machine Learning i Generative AI — <strong>potrzebują solidnego ładu danych</strong>, żeby działać dobrze.</p> <h3 id="garbage-in-garbage-out">Garbage In, Garbage Out</h3> <p>Modele AI są tak dobre, jak dane, na których je trenowano. <a href="https://sloanreview.mit.edu/article/the-quest-for-ai-quality/">MIT Sloan Management Review</a> podkreśla, że jakość danych treningowych jest <strong>najważniejszym czynnikiem</strong> wpływającym na jakość modeli AI. Data Governance zapewnia, że dane są czyste, dokładne, kompletne i <strong>reprezentatywne</strong>.</p> <h3 id="bias-w-danych-treningowych">Bias w danych treningowych</h3> <p>Jeśli historyczne dane bankowe pokazują, że kobiety częściej dostawały odmowę kredytu, model AI nauczy się tej stronniczości. Data Governance to procesy, które pomagają <strong>identyfikować i neutralizować bias w danych</strong>, zanim trafią one do modelu. <a href="https://aif360.mybluemix.net/">AI Fairness 360</a> od IBM to jedno z narzędzi wspierających ten proces.</p> <h3 id="zarządzanie-cyklem-życia">Zarządzanie cyklem życia</h3> <p>Pytania z zakresu DG, które dotyczą AI:</p> <ul> <li>Kto ma dostęp do zbiorów treningowych?</li> <li>Jak zarządzamy promptami i odpowiedziami w modelach GenAI?</li> <li>Gdzie przechowujemy fine-tuned modele i jak wersjonujemy dane treningowe?</li> <li>Jak dokumentujemy provenance (pochodzenie) danych użytych do treningu?</li> </ul> <hr/> <h2 id="frontier-data-governance--nowy-koncept">„Frontier Data Governance” — nowy koncept</h2> <p>Praca <a href="https://arxiv.org/abs/2412.03824v2">Toward Data Governance of Frontier AI Models</a> wprowadza pojęcie <strong>frontier data governance</strong> — governance danych specyficznie dla najbardziej zaawansowanych modeli AI.</p> <p>Autorzy argumentują, że dane mają unikalne cechy, które komplikują tradycyjne podejście do governance:</p> <table> <thead> <tr> <th style="text-align: left">Cecha danych</th> <th style="text-align: left">Implikacja dla governance</th> </tr> </thead> <tbody> <tr> <td style="text-align: left"><strong>Non-rivalry</strong> — wielu użytkowników może korzystać jednocześnie</td> <td style="text-align: left">Trudno ograniczyć dostęp po udostępnieniu</td> </tr> <tr> <td style="text-align: left"><strong>Replicability</strong> — łatwo kopiować</td> <td style="text-align: left">Trudno kontrolować rozprzestrzenianie</td> </tr> <tr> <td style="text-align: left"><strong>Composability</strong> — dane można łączyć</td> <td style="text-align: left">Nieszkodliwe zbiory mogą stać się niebezpieczne po połączeniu</td> </tr> </tbody> </table> <p>Proponowane mechanizmy:</p> <ul> <li><strong>Canary tokens</strong> — cyfrowe „pułapki” osadzone w danych, wykrywające nieautoryzowane użycie</li> <li><strong>Obowiązkowe raportowanie</strong> — twórcy modeli muszą udokumentować, jakie dane wykorzystali</li> <li><strong>Proaktywne filtrowanie</strong> — AI samo monitoruje zbiory treningowe pod kątem szkodliwych treści</li> </ul> <hr/> <h2 id="explainable-ai-xai--klucz-do-zaufania">Explainable AI (XAI) — klucz do zaufania</h2> <p>Największy problem z AI w governance to <strong>„czarna skrzynka”</strong> — nie wiemy, <em>jak</em> model podjął decyzję. To podkopuje:</p> <ul> <li><strong>Zaufanie</strong> — zarząd nie zaakceptuje decyzji, której nie rozumie</li> <li><strong>Odpowiedzialność</strong> — kogo obarczyć, gdy model się myli?</li> <li><strong>Compliance</strong> — <a href="https://gdpr.eu/article-22-automated-individual-decision-making/">RODO art. 22</a> daje osobom prawo do wyjaśnienia decyzji zautomatyzowanych</li> </ul> <p>Dlatego rosnące znaczenie ma <a href="https://www.ibm.com/topics/explainable-ai">Explainable AI (XAI)</a>:</p> <ul> <li>SHAP (SHapley Additive exPlanations) — wyjaśnia wkład każdej cechy w predykcję</li> <li>LIME (Local Interpretable Model-agnostic Explanations) — lokalne wyjaśnienia dla pojedynczych przypadków</li> <li>Model Cards (Google) — standaryzowana dokumentacja modeli AI</li> </ul> <hr/> <h2 id="jak-zacząć-z-ai-w-data-governance">Jak zacząć z AI w Data Governance?</h2> <p>Wdrożenie AI do DG to nie projekt na jeden weekend. Realistyczny plan gry:</p> <ol> <li><strong>Audyt stanu wyjściowego</strong> — co masz, gdzie boli compliance, gdzie jest największy bałagan?</li> <li><strong>Wybierz jeden obszar</strong> — np. automatyczna klasyfikacja PII</li> <li><strong>Wybierz platformę</strong> — <a href="/blog/2025/ataccama/">Ataccama</a>, <a href="/blog/2025/informatica/">Informatica</a>, <a href="https://www.collibra.com/">Collibra</a>, lub open-source jak <a href="https://greatexpectations.io/">Great Expectations</a></li> <li><strong>Pilotaż</strong> — jeden dział, jeden proces, mierz efekty</li> <li><strong>Skaluj stopniowo</strong> — rozszerzaj na inne obszary na podstawie wyników pilotażu</li> </ol> <hr/> <h2 id="podsumowanie">Podsumowanie</h2> <p>AI zmienia Data Governance z dwóch stron:</p> <ul> <li><strong>AI jako narzędzie DG</strong> — automatyzuje klasyfikację, monitoring, lineage i jakość</li> <li><strong>DG dla AI</strong> — zapewnia jakość danych treningowych, neutralizuje bias, dokumentuje provenance</li> </ul> <p>Największe wyzwanie to nie technologia, a <strong>zaufanie</strong> — do modeli, do danych i do procesów. Kluczem jest Explainable AI, solidne polityki i stopniowe wdrażanie.</p> <blockquote> <p><em>„AI is not a magic wand for data governance — it’s a powerful amplifier. If your data governance is good, AI makes it great. If it’s bad, AI makes the problems worse, faster.”</em></p> </blockquote> <hr/> <h3 id="źródła-i-dalsze-lektury">Źródła i dalsze lektury</h3> <ul> <li><a href="https://arxiv.org/abs/2412.03824v2"><em>Towards Data Governance of Frontier AI Models</em></a>, arXiv, 2024</li> <li>MIT Sloan, <a href="https://sloanreview.mit.edu/article/the-quest-for-ai-quality/"><em>The Quest for AI Quality</em></a></li> <li>IBM, <a href="https://www.ibm.com/topics/explainable-ai"><em>Explainable AI</em></a></li> <li>IBM, <a href="https://aif360.mybluemix.net/"><em>AI Fairness 360</em></a></li> <li>GDPR, <a href="https://gdpr.eu/article-22-automated-individual-decision-making/"><em>Article 22 — Automated Decision-Making</em></a></li> <li>Monte Carlo Data, <a href="https://www.montecarlodata.com/"><em>Data Observability Platform</em></a></li> <li>Google, <a href="https://modelcards.withgoogle.com/"><em>Model Cards for Model Reporting</em></a></li> </ul>]]></content><author><name></name></author><category term="data-governance"/><category term="data-governance"/><category term="ai"/><category term="models"/><category term="data-quality"/><summary type="html"><![CDATA[Jak AI zmienia zarządzanie danymi? Od automatycznej klasyfikacji PII po frontier data governance — analiza na podstawie pracy z arXiv.]]></summary></entry><entry><title type="html">Ataccama ONE — dlaczego wybrałem tę platformę do Data Governance</title><link href="https://skszymon.eu/blog/2025/ataccama/" rel="alternate" type="text/html" title="Ataccama ONE — dlaczego wybrałem tę platformę do Data Governance"/><published>2025-06-22T11:30:55+00:00</published><updated>2025-06-22T11:30:55+00:00</updated><id>https://skszymon.eu/blog/2025/ataccama</id><content type="html" xml:base="https://skszymon.eu/blog/2025/ataccama/"><![CDATA[<h1 id="ataccama-one--dlaczego-wybrałem-tę-platformę-do-data-governance">Ataccama ONE — dlaczego wybrałem tę platformę do Data Governance</h1> <p>To jest artykuł, który chciałem napisać od dawna — bo Ataccama to narzędzie, z którym pracuję na co dzień. Nie jako ewaluator czy recenzent, ale jako <strong>użytkownik</strong>, który codziennie konfiguruje reguły jakości, utrzymuje katalog danych i wspiera biznes w zrozumieniu ich zasobów danych.</p> <p>Ten przegląd nie jest sponsorowany — to moje obserwacje z praktyki w <a href="https://www.best.com.pl/">BEST S.A.</a>, gdzie wdrażamy Ataccama ONE jako centralną platformę Data Governance.</p> <hr/> <h2 id="dlaczego-akurat-ataccama">Dlaczego akurat Ataccama?</h2> <p>Na rynku narzędzi DG jest kilku silnych graczy: <a href="https://www.collibra.com/">Collibra</a>, <a href="/blog/2025/informatica/">Informatica</a>, <a href="https://www.alation.com/">Alation</a>. Każdy ma swoje mocne strony. Ataccama wyróżnia się tym, że <strong>łączy Data Quality, Data Governance i Master Data Management w jednej platformie</strong> — zamiast trzech oddzielnych narzędzi z trzema oddzielnymi interfejsami.</p> <p>W praktyce oznacza to, że:</p> <ul> <li>Profilowanie danych, reguły jakości i monitoring DQ — w tym samym narzędziu co katalog i glosariusz</li> <li>Nie ma potrzeby integrowania osobnego silnika DQ z osobną platformą DG</li> <li>Mniejszy Total Cost of Ownership (TCO) dla organizacji średniej wielkości</li> </ul> <hr/> <h2 id="co-potrafi-ataccama-one">Co potrafi Ataccama ONE?</h2> <h3 id="automatyczne-odkrywanie-i-klasyfikacja-danych">Automatyczne odkrywanie i klasyfikacja danych</h3> <p>Ataccama skanuje źródła danych i automatycznie identyfikuje:</p> <ul> <li>Typy danych (daty, e-maile, numery identyfikacyjne)</li> <li>Dane wrażliwe (PII — Personally Identifiable Information)</li> <li>Anomalie jakościowe</li> </ul> <p>Wykorzystuje do tego AI — co brzmi marketingowo, ale w praktyce naprawdę przyspiesza profilowanie. Zamiast ręcznie przeglądać tysiące kolumn, dostajesz wstępną klasyfikację, którą potem weryfikujesz i precyzujesz.</p> <h3 id="monitoring-jakości-danych">Monitoring jakości danych</h3> <p>To dla mnie <strong>najsilniejszy moduł</strong> Ataccamy. Możesz:</p> <ul> <li>Definiować reguły walidacyjne (format, zakres, kompletność, unikalność)</li> <li>Monitorować jakość w czasie rzeczywistym z alertami</li> <li>Przeglądać trendy jakościowe na dashboardach</li> <li>Uruchamiać czyszczenie i wzbogacanie danych</li> </ul> <p>W kontekście <a href="/blog/2026/data-quality-dimensions/">wymiarów Data Quality</a>, Ataccama pokrywa wszystkie sześć — a scorecardy DQ są wbudowane w platformę.</p> <h3 id="glosariusz-biznesowy">Glosariusz biznesowy</h3> <p>Rozbudowany glosariusz, który pozwala:</p> <ul> <li>Definiować terminy biznesowe z hierarchią i relacjami</li> <li>Linkować terminy do konkretnych kolumn w bazach danych</li> <li>Zarządzać regułami i politykami biznesowymi</li> </ul> <p>To kluczowe dla organizacji, gdzie „przychód” może znaczyć co innego dla działu sprzedaży, finansów i controllingu.</p> <h3 id="data-lineage">Data Lineage</h3> <p>Automatyczne śledzenie przepływu danych między systemami. Ataccama wizualizuje, skąd pochodzą dane, przez jakie transformacje przechodziły i gdzie trafiają. Mapy lineage są wzbogacone o informacje o jakości danych — od razu widać, czy problem jakościowy zaczyna się u źródła, czy po drodze.</p> <h3 id="współpraca-i-workflow">Współpraca i workflow</h3> <p>Ataccama wspiera współpracę między IT a biznesem:</p> <ul> <li>Przypisywanie ról (Data Owner, Data Steward)</li> <li>Workflow zatwierdzania zmian</li> <li>Zgłaszanie i śledzenie incydentów danych</li> </ul> <hr/> <h2 id="korzyści-które-naprawdę-widzę-w-praktyce">Korzyści, które naprawdę widzę w praktyce</h2> <p>Nie chcę powtarzać materiałów marketingowych — opiszę to, co <strong>realnie zmieniło się</strong> po wdrożeniu:</p> <table> <thead> <tr> <th style="text-align: left">Przed Ataccama</th> <th style="text-align: left">Po Ataccama</th> </tr> </thead> <tbody> <tr> <td style="text-align: left">Jakość danych sprawdzana ręcznie w Excelu</td> <td style="text-align: left">Automatyczne reguły + alerty</td> </tr> <tr> <td style="text-align: left">„Co to pole znaczy?” → pytanie na Teamsie</td> <td style="text-align: left">Glosariusz z definicjami i linkami do źródeł</td> </tr> <tr> <td style="text-align: left">Brak widoczności duplikatów</td> <td style="text-align: left">Profilowanie wykrywa duplikaty automatycznie</td> </tr> <tr> <td style="text-align: left">Spory o „czyje są dane”</td> <td style="text-align: left">Role Data Owner/Steward zdefiniowane w systemie</td> </tr> </tbody> </table> <hr/> <h2 id="pozycja-rynkowa">Pozycja rynkowa</h2> <p>Ataccama jest regularnie wyróżniana przez analityków:</p> <ul> <li><strong>Forrester</strong> — <a href="https://www.ataccama.com/resources/forrester-wave-data-quality-solutions">Wave™ leader w kategorii Data Quality Solutions</a></li> <li><strong>Gartner</strong> — <a href="https://www.gartner.com/reviews/market/data-quality-solutions/vendor/ataccama">Strong Performer w Magic Quadrant for Data Quality Solutions</a></li> <li><strong>IDC</strong> — uznana za innowatora w zakresie AI-driven Data Management</li> </ul> <p>Klienci z sektora finansowego, ubezpieczeniowego i produkcyjnego doceniają elastyczność i możliwość skalowania.</p> <hr/> <h2 id="dla-kogo-jest-ataccama">Dla kogo jest Ataccama?</h2> <p>Na podstawie mojego doświadczenia:</p> <ul> <li>✅ <strong>Organizacje szukające jednej platformy</strong> DQ + DG + MDM</li> <li>✅ <strong>Firmy średniej wielkości</strong> — bardziej przystępna cenowo niż Informatica czy Collibra</li> <li>✅ <strong>Zespoły rozpoczynające przygodę z DG</strong> — intuicyjny interfejs, szybki start</li> <li>⚠️ <strong>Mega-korporacje z istniejącym stackiem Informatica</strong> — migracja może być kosztowna</li> <li>⚠️ <strong>Firmy szukające tylko katalogu danych</strong> — Alation może być lepszym wyborem</li> </ul> <hr/> <h2 id="podsumowanie">Podsumowanie</h2> <p>Ataccama ONE to solidna, zintegrowana platforma, która sprawdza się szczególnie tam, gdzie chcesz <strong>łączyć Data Quality z Data Governance</strong> bez żonglowania wieloma narzędziami. Nie jest idealna — interfejs w niektórych miejscach mógłby być bardziej intuicyjny, a dokumentacja nie zawsze nadąża za nowymi funkcjami — ale jako codzienny użytkownik mogę powiedzieć, że <strong>robi robotę</strong>.</p> <p>Kluczowe to pamiętać, że żadne narzędzie nie zastąpi ludzi i procesów. Ataccama pomaga — ale to data stewardzi i data ownerzy zapewniają, że dane naprawdę mają wartość.</p> <hr/> <h3 id="źródła-i-dalsze-lektury">Źródła i dalsze lektury</h3> <ul> <li>Ataccama, <a href="https://www.ataccama.com/product"><em>Ataccama ONE Platform</em></a></li> <li>Forrester, <a href="https://www.ataccama.com/resources/forrester-wave-data-quality-solutions"><em>Wave™ Data Quality Solutions</em></a></li> <li>Gartner, <a href="https://www.gartner.com/reviews/market/data-quality-solutions/vendor/ataccama"><em>Peer Insights — Data Quality Solutions</em></a></li> <li>BEST S.A., <a href="https://www.best.com.pl/"><em>Strona firmowa</em></a></li> </ul>]]></content><author><name></name></author><category term="data-governance"/><category term="data-governance"/><category term="ataccama"/><category term="tool"/><category term="data-quality"/><summary type="html"><![CDATA[Przegląd Ataccama ONE z perspektywy codziennego użytkownika — co potrafi, jak wygląda w praktyce i dla kogo się nadaje.]]></summary></entry><entry><title type="html">Informatica jako narzędzie Data Governance: przegląd dla praktyków</title><link href="https://skszymon.eu/blog/2025/informatica/" rel="alternate" type="text/html" title="Informatica jako narzędzie Data Governance: przegląd dla praktyków"/><published>2025-03-29T14:30:55+00:00</published><updated>2025-03-29T14:30:55+00:00</updated><id>https://skszymon.eu/blog/2025/informatica</id><content type="html" xml:base="https://skszymon.eu/blog/2025/informatica/"><![CDATA[<h1 id="informatica-jako-narzędzie-data-governance">Informatica jako narzędzie Data Governance</h1> <p>W <a href="/blog/2024/data-governance-start/">poprzednich artykułach</a> pisałem o fundamentach Data Governance — o ludziach, procesach i dopiero potem o technologii. Ten post dotyczy właśnie tej trzeciej warstwy: <strong>konkretnego narzędzia</strong>. Informatica to jeden z najdłużej obecnych graczy na rynku zarządzania danymi, więc warto wiedzieć, co oferuje.</p> <blockquote> <p><strong>Disclaimer:</strong> Ten artykuł to niezależny przegląd. Nie jestem związany z Informatica — na co dzień pracuję z <a href="/blog/2025/ataccama/">Ataccama</a>, więc postaram się być obiektywny.</p> </blockquote> <hr/> <h2 id="informatica-w-pigułce">Informatica w pigułce</h2> <p><a href="https://www.informatica.com/">Informatica</a> to firma założona w 1993 roku w Stanach Zjednoczonych. Przez lata zbudowała szerokie portfolio narzędzi do integracji danych. Ich flagowy produkt — <strong>Informatica PowerCenter</strong> — przez dekady był synonimem ETL (Extract, Transform, Load) w korporacjach.</p> <p>Dziś portfolio Informatica obejmuje:</p> <ul> <li>ETL/ELT i integrację danych</li> <li>Maskowanie danych</li> <li>Jakość danych</li> <li><a href="https://www.informatica.com/products/master-data-management.html">Master Data Management (MDM)</a></li> <li>Data Governance</li> <li>Wirtualizację danych</li> </ul> <p>Klienci to m.in. US Air Force, Allianz, Samsung, ING — głównie segment enterprise. Informatica jest regularnie pozycjonowana jako lider w <a href="https://www.informatica.com/resources/articles/gartner-magic-quadrant-data-integration.html">Gartner Magic Quadrant for Data Integration Tools</a>.</p> <hr/> <h2 id="co-oferuje-informatica-w-zakresie-data-governance">Co oferuje Informatica w zakresie Data Governance?</h2> <p>Platforma <a href="https://www.informatica.com/products/data-governance.html">Informatica Data Governance</a> składa się z kilku komponentów, które razem tworzą spójne środowisko.</p> <h3 id="katalog-danych-i-odkrywanie">Katalog danych i odkrywanie</h3> <p>Centralny katalog z widokiem na wszystkie zasoby danych w organizacji. Pozwala użytkownikom:</p> <ul> <li>Przeglądać i wyszukiwać zasoby danych</li> <li>Przeglądać metadane, lineage i wskaźniki jakości</li> <li>Oceniać pochodzenie i wiarygodność danych</li> </ul> <h3 id="zarządzanie-politykami">Zarządzanie politykami</h3> <p>Platforma umożliwia definiowanie polityk DG (reguły jakości, klasyfikacja, kontrola dostępu, prywatność) i — co ważne — <strong>automatyczne ich egzekwowanie</strong>. To eliminuje problem „polityk na papierze”, które nikt nie przestrzega.</p> <h3 id="data-lineage-i-analiza-wpływu">Data Lineage i analiza wpływu</h3> <p>Śledzenie przepływu danych między systemami. Pozwala odpowiedzieć na pytanie: <em>„jeśli zmienię definicję pola X w systemie źródłowym, jakie raporty i procesy to zepsuje?”</em> — kluczowe przy zarządzaniu zmianą.</p> <h3 id="zarządzanie-jakością-danych">Zarządzanie jakością danych</h3> <p>Profilowanie, czyszczenie i monitoring jakości danych w jednym narzędziu. Informatica oferuje solidne reguły walidacyjne i integrację z resztą ekosystemu.</p> <hr/> <h2 id="flagowe-produkty-dg">Flagowe produkty DG</h2> <h3 id="informatica-axon">Informatica Axon</h3> <p><a href="https://www.informatica.com/products/data-governance/axon-data-governance.html">Axon</a> to narzędzie klasy enterprise, stworzone z myślą o <strong>użytkownikach biznesowych</strong>. Jego celem jest upowszechnienie wiedzy o danych w całej organizacji — nie tylko wśród inżynierów danych, ale też wśród menedżerów, analityków i specjalistów compliance.</p> <p>Axon łączy:</p> <ul> <li>Glosariusz biznesowy</li> <li>Mapowanie odpowiedzialności (kto jest ownerem jakich danych)</li> <li>Workflow zarządzania danymi (zgłoszenia, zatwierdzenia, eskalacje)</li> </ul> <h3 id="enterprise-data-catalog-edc">Enterprise Data Catalog (EDC)</h3> <p>W odróżnieniu od biznesowej perspektywy Axona, <a href="https://www.informatica.com/products/data-catalog/enterprise-data-catalog.html">EDC</a> jest rozwiązaniem <strong>technicznym</strong> — umożliwia automatyczne skanowanie źródeł danych, katalogowanie metadanych i identyfikację danych wrażliwych (PII) w kontekście RODO/GDPR.</p> <p><strong>Axon + EDC = komplet</strong>: EDC skanuje i kataloguje, a Axon nadaje temu kontekst biznesowy. To model „bottom-up meets top-down”, który jest często rekomendowany w dojrzałych wdrożeniach DG.</p> <hr/> <h2 id="claire-gpt--ai-w-informatica">CLAIRE GPT — AI w Informatica</h2> <p>Informatica niedawno wprowadziła <a href="https://www.informatica.com/platform/claire-ai.html">CLAIRE GPT</a> — model językowy połączony z metadanymi w platformie IDMC (Intelligent Data Management Cloud).</p> <p>W praktyce oznacza to, że możesz <strong>zapytać w naturalnym języku</strong> o swoje dane: <em>„Które tabele zawierają dane klientów z Europy?”</em> lub <em>„Pokaż mi lineage pola ‘revenue’ w raporcie kwartalnym.”</em></p> <p>To interesujący kierunek — ale jeszcze wczesny. Informatica obiecuje, że CLAIRE GPT będzie rozbijać złożone zadania DG na mniejsze kroki i sugerować rekomendacje. Zobaczymy, jak to zadziała w produkcyjnych wdrożeniach.</p> <hr/> <h2 id="jak-informatica-wypada-na-tle-konkurencji">Jak Informatica wypada na tle konkurencji?</h2> <table> <thead> <tr> <th>Aspekt</th> <th>Informatica</th> <th>Ataccama</th> <th>Collibra</th> </tr> </thead> <tbody> <tr> <td><strong>Siła</strong></td> <td>Najszerszy ekosystem, głęboka integracja ETL</td> <td>Zintegrowany DQ + DG + MDM w jednej platformie</td> <td>Najlepszy Business Glossary i governance workflow</td> </tr> <tr> <td><strong>Słabość</strong></td> <td>Kompleksowość, wyższy próg wejścia</td> <td>Mniejszy ekosystem partnerski</td> <td>Słabszy moduł Data Quality</td> </tr> <tr> <td><strong>Dla kogo</strong></td> <td>Duże korporacje z istniejącym stackiem Informatica</td> <td>Firmy szukające all-in-one</td> <td>Organizacje stawiające na governance-first</td> </tr> <tr> <td><strong>Pricing</strong></td> <td>Enterprise (premium)</td> <td>Bardziej elastyczny</td> <td>Enterprise (premium)</td> </tr> </tbody> </table> <p><em>Źródło: własna analiza na podstawie <a href="https://www.gartner.com/reviews/market/data-quality-solutions">Gartner Peer Insights</a> i doświadczeń praktycznych.</em></p> <hr/> <h2 id="wdrażanie--na-co-uważać">Wdrażanie — na co uważać?</h2> <p>Na podstawie doświadczeń branżowych (szczególnie z sektora finansowego), kilka lekcji:</p> <ol> <li><strong>Zacznij od EDC</strong> — daj mu czas na skanowanie i zbudowanie katalogu metadanych</li> <li><strong>Dopiero potem Axon</strong> — wzbogacaj metadane o kontekst biznesowy</li> <li><strong>Skup się na 5 filarach Axon</strong>: struktura organizacyjna, procesy, polityki, glosariusz, metryki</li> <li><strong>Nie pomijaj zmiany organizacyjnej</strong> — narzędzie bez zaangażowania ludzi to drogi dashboard</li> </ol> <hr/> <h2 id="podsumowanie">Podsumowanie</h2> <p>Informatica to <strong>dojrzała, kompleksowa platforma</strong>, która najlepiej sprawdza się w dużych organizacjach z rozbudowanym ekosystemem danych. Jej przewaga to głęboka integracja między modułami — od ETL, przez jakość danych, po governance.</p> <p>Ale narzędzie to nie jest srebrną kulą. Bez jasnych procesów, zdefiniowanych ról i wsparcia zarządu — nawet najlepsze narzędzie stanie się kolejnym „systemem, którego nikt nie używa”.</p> <hr/> <h3 id="źródła-i-dalsze-lektury">Źródła i dalsze lektury</h3> <ul> <li>Informatica, <a href="https://www.informatica.com/products/data-governance.html"><em>Data Governance Platform</em></a></li> <li>Informatica, <a href="https://www.informatica.com/products/data-governance/axon-data-governance.html"><em>Axon Data Governance</em></a></li> <li>Informatica, <a href="https://www.informatica.com/products/data-catalog/enterprise-data-catalog.html"><em>Enterprise Data Catalog</em></a></li> <li>Informatica, <a href="https://www.informatica.com/platform/claire-ai.html"><em>CLAIRE AI</em></a></li> <li>Gartner, <a href="https://www.informatica.com/resources/articles/gartner-magic-quadrant-data-integration.html"><em>Magic Quadrant for Data Integration Tools</em></a></li> <li>Gartner, <a href="https://www.gartner.com/reviews/market/data-quality-solutions"><em>Peer Insights — Data Quality Solutions</em></a></li> </ul>]]></content><author><name></name></author><category term="data-governance"/><category term="data-governance"/><category term="informatica"/><category term="tool"/><summary type="html"><![CDATA[Przegląd platformy Informatica Data Governance — Axon, EDC, CLAIRE GPT. Co potrafi, do czego się nadaje i jak wypada na tle konkurencji.]]></summary></entry><entry><title type="html">Standardy danych: czym są i dlaczego bez nich nie zbudujesz programu DG?</title><link href="https://skszymon.eu/blog/2024/dg-standars/" rel="alternate" type="text/html" title="Standardy danych: czym są i dlaczego bez nich nie zbudujesz programu DG?"/><published>2024-09-18T23:30:21+00:00</published><updated>2024-09-18T23:30:21+00:00</updated><id>https://skszymon.eu/blog/2024/dg-standars</id><content type="html" xml:base="https://skszymon.eu/blog/2024/dg-standars/"><![CDATA[<h1 id="standardy-danych-czym-są-i-dlaczego-bez-nich-nie-zbudujesz-programu-dg">Standardy danych: czym są i dlaczego bez nich nie zbudujesz programu DG?</h1> <p>Kiedy mówię „standardy danych”, większość ludzi wyobraża sobie dokumenty ISO leżące gdzieś na serwerze. W rzeczywistości standardy danych to coś dużo bardziej fundamentalnego — to <strong>umowy między ludźmi i systemami co do tego, jak dane powinny wyglądać</strong>, żeby można było nimi się wymieniać, analizować je i ufać im.</p> <p>Ten artykuł bazuje na analizie przygotowanej w ramach inicjatywy <a href="https://transparencee.org/">TransparenCEE</a>, której celem jest wzmocnienie sektora technologii obywatelskiej w Europie Środkowej i Wschodniej.</p> <hr/> <h2 id="czym-właściwie-jest-standard-danych">Czym właściwie jest standard danych?</h2> <p>Wyobraź sobie pracę magisterską. Ma tytuł, streszczenie, tekst, bibliografię. Jest napisana w ramach programu studiów na konkretnym wydziale, z promotorem i recenzentem. Jest data utworzenia, data obrony, ocena.</p> <p>Gdybyś chciał zbudować narzędzie do przeglądania prac magisterskich z różnych uczelni, musiałbyś te wszystkie elementy <strong>ustandaryzować</strong> — zdecydować, jakie pola musi mieć każdy rekord, jakie formaty dat akceptujesz, jak identyfikujesz autorów.</p> <p>Ten proces nazywamy <strong>modelowaniem danych</strong>. I tu zaczyna się standard.</p> <blockquote> <p>Modelowanie polega na przekształceniu rzeczywistych bytów w rekordy danych — z jasno zdefiniowanymi wymaganiami, formatami i ograniczeniami.</p> </blockquote> <hr/> <h2 id="od-modelu-do-standardu-interoperacyjność">Od modelu do standardu: interoperacyjność</h2> <p>Sam model to za mało. Standard powstaje wtedy, gdy <strong>wiele organizacji zgadza się stosować ten sam model</strong>. Bez tego mamy silosy — każdy system mówi swoim językiem.</p> <p>Interoperacyjność to zdolność różnych systemów do wymiany standaryzowanych danych. Żeby to działało, trzeba podjąć decyzje o <strong>reprezentacji danych</strong> — w jakim formacie, w jakiej strukturze.</p> <h3 id="przykłady-tego-samego-rekordu-w-różnych-formatach">Przykłady tego samego rekordu w różnych formatach</h3> <p><strong>JSON</strong> (preferowany w nowoczesnych API i narzędziach analitycznych):</p> <div class="language-json highlighter-rouge"><div class="highlight"><pre class="highlight"><code><span class="p">{</span><span class="w">
  </span><span class="nl">"author"</span><span class="p">:</span><span class="w"> </span><span class="p">{</span><span class="nl">"given_name"</span><span class="p">:</span><span class="w"> </span><span class="s2">"Krzysztof"</span><span class="p">,</span><span class="w"> </span><span class="nl">"family_name"</span><span class="p">:</span><span class="w"> </span><span class="s2">"Madejski"</span><span class="p">},</span><span class="w">
  </span><span class="nl">"title"</span><span class="p">:</span><span class="w"> </span><span class="s2">"Standardy danych: Czym są i dlaczego są ważne?"</span><span class="p">,</span><span class="w">
  </span><span class="nl">"date_of_final_accept"</span><span class="p">:</span><span class="w"> </span><span class="s2">"2016-01-29"</span><span class="w">
</span><span class="p">}</span><span class="w">
</span></code></pre></div></div> <p><strong>CSV</strong> (uniwersalny, ale płaski — nie obsługuje zagnieżdżeń):</p> <div class="language-plaintext highlighter-rouge"><div class="highlight"><pre class="highlight"><code>author_given_name, author_family_name, title, date_of_final_accept
Krzysztof, Madejski, Standardy danych: Czym są i dlaczego są ważne?, 2016-01-29
</code></pre></div></div> <p><strong>XML</strong> (nadal popularny w administracji publicznej i sektorze finansowym):</p> <div class="language-xml highlighter-rouge"><div class="highlight"><pre class="highlight"><code><span class="nt">&lt;thesis&gt;</span>
  <span class="nt">&lt;author&gt;</span>
    <span class="nt">&lt;given_name&gt;</span>Krzysztof<span class="nt">&lt;/given_name&gt;</span>
    <span class="nt">&lt;family_name&gt;</span>Madejski<span class="nt">&lt;/family_name&gt;</span>
  <span class="nt">&lt;/author&gt;</span>
  <span class="nt">&lt;title&gt;</span>Standardy danych: Czym są i dlaczego są ważne?<span class="nt">&lt;/title&gt;</span>
  <span class="nt">&lt;date_of_final_accept&gt;</span>2016-01-29<span class="nt">&lt;/date_of_final_accept&gt;</span>
<span class="nt">&lt;/thesis&gt;</span>
</code></pre></div></div> <p>Wybór formatu nie jest trywialny — JSON dominuje w sectorze tech, XML w regulowanych branżach (bankowość, ubezpieczenia), a CSV w analityce ad hoc. Warto znać zalety i ograniczenia każdego.</p> <hr/> <h2 id="co-czyni-standard-standardem">Co czyni standard… standardem?</h2> <p>Gdybym ogłosił „Kowalewski Data Standard 1.0”, prawdopodobnie nikt by tego nie zauważył. Siła standardu leży w <strong>adopcji</strong> — jeśli nikt go nie używa, to po prostu nie jest standardem.</p> <p>Według <a href="https://www.w3.org/standards/">World Wide Web Consortium (W3C)</a>, otwarty standard powinien spełniać te kryteria:</p> <table> <thead> <tr> <th>Kryterium</th> <th>Opis</th> </tr> </thead> <tbody> <tr> <td><strong>Przejrzystość</strong></td> <td>Proces tworzenia jest publiczny, decyzje dokumentowane</td> </tr> <tr> <td><strong>Relewancja</strong></td> <td>Standard wynika z realnych potrzeb rynkowych</td> </tr> <tr> <td><strong>Otwartość</strong></td> <td>Każdy może w nim uczestniczyć</td> </tr> <tr> <td><strong>Bezstronność</strong></td> <td>Proces decyzyjny jest sprawiedliwy</td> </tr> <tr> <td><strong>Dostępność</strong></td> <td>Bezpłatny dostęp do specyfikacji</td> </tr> <tr> <td><strong>Utrzymanie</strong></td> <td>Ciągłe testowanie i aktualizacja</td> </tr> </tbody> </table> <p>Dobrym przykładem jest <a href="https://www.iso.org/iso-3166-country-codes.html">ISO 3166</a> — standard kodów krajów, który jest niewidoczny, ale wszechobecny. Każdy formularz online, który prosi o wybór kraju, prawdopodobnie korzysta z tego standardu.</p> <hr/> <h2 id="otwieranie-danych--jak-to-zrobić-dobrze">Otwieranie danych — jak to zrobić dobrze?</h2> <p>Udostępnianie danych innym organizacjom (open data) to kosztowny proces. <a href="https://5stardata.info/en/">Tim Berners-Lee</a> zaproponował model 5-gwiazdkowy do oceny otwartości danych:</p> <ul> <li>⭐ Dane dostępne w internecie (w jakimkolwiek formacie)</li> <li>⭐⭐ Dane w formacie strukturalnym (np. Excel zamiast PDF)</li> <li>⭐⭐⭐ Otwarty format (np. CSV zamiast XLS)</li> <li>⭐⭐⭐⭐ Identyfikatory URI</li> <li>⭐⭐⭐⭐⭐ Powiązane dane (Linked Data)</li> </ul> <h3 id="dwa-podejścia-do-udostępniania">Dwa podejścia do udostępniania:</h3> <ol> <li><strong>Eksport pliku</strong> — cykliczna publikacja danych (co dzień, co miesiąc). Proste, ale wymaga manualnej obsługi i szybko się dezaktualizuje</li> <li><strong>API</strong> — programistyczny interfejs pozwalający innym systemom odpytywać dane w czasie rzeczywistym. Bardziej złożone, ale bardziej elastyczne</li> </ol> <blockquote> <p><strong>Ważne:</strong> API też powinno być standaryzowane. <a href="https://www.openapis.org/">OpenAPI Specification</a> to de facto standard opisywania REST API.</p> </blockquote> <hr/> <h2 id="standardy-danych-w-kontekście-data-governance">Standardy danych w kontekście Data Governance</h2> <p>Dlaczego piszę o standardach w serii o DG? Bo <strong>standardy to kręgosłup programu Data Governance</strong>. Bez standardów:</p> <ul> <li>Nie zbudujesz wiarygodnego Data Catalog — bo nie wiadomo, jak interpretować dane</li> <li>Nie zmierzysz jakości — bo nie ma „złotego wzorca”</li> <li>Nie wymieniasz danych — bo każdy system mówi innym językiem</li> <li>Nie zapewnisz compliance — bo regulator wymaga konkretnych formatów (np. <a href="https://www.xbrl.org/">XBRL</a> w raportowaniu finansowym)</li> </ul> <p>Wdrożenie standardów to nie jednorazowe działanie, ale <strong>ciągły proces negocjacji</strong> między zespołami biznesowymi, IT i regulatorami.</p> <hr/> <h2 id="podsumowanie">Podsumowanie</h2> <p>Standardy danych to fundament, na którym budujemy interoperacyjność, jakość i zaufanie do danych. Bez nich program DG jest jak budynek bez fundamentów — może stoi, ale przy pierwszym wstrząsie się zawali.</p> <p>Kluczowe wnioski:</p> <ul> <li>Standard to nie dokument — to <strong>umowa społeczna</strong> między użytkownikami danych</li> <li>Format danych (JSON, CSV, XML) ma znaczenie — wybieraj świadomie</li> <li>Otwartość standardu decyduje o jego adopcji</li> <li>Standardy danych są integralną częścią programu Data Governance</li> </ul> <hr/> <h3 id="źródła-i-dalsze-lektury">Źródła i dalsze lektury</h3> <ul> <li>TransparenCEE, <a href="https://transparencee.org/"><em>Data Standards Initiative</em></a></li> <li>W3C, <a href="https://www.w3.org/standards/"><em>Web Standards</em></a></li> <li>Tim Berners-Lee, <a href="https://5stardata.info/en/"><em>5 Star Open Data</em></a></li> <li>ISO 3166, <a href="https://www.iso.org/iso-3166-country-codes.html"><em>Country Codes</em></a></li> <li>OpenAPI Initiative, <a href="https://www.openapis.org/"><em>OpenAPI Specification</em></a></li> <li>XBRL International, <a href="https://www.xbrl.org/"><em>eXtensible Business Reporting Language</em></a></li> </ul>]]></content><author><name></name></author><category term="data-governance"/><category term="data-governance"/><category term="data-standards"/><category term="interoperability"/><summary type="html"><![CDATA[Czym są standardy danych, jak działają w praktyce i dlaczego interoperacyjność jest kluczowa — analiza na podstawie inicjatywy TransparenCEE.]]></summary></entry><entry><title type="html">Które normy ISO stosować w Data Governance? Praktyczny przegląd</title><link href="https://skszymon.eu/blog/2024/dg-iso-standards/" rel="alternate" type="text/html" title="Które normy ISO stosować w Data Governance? Praktyczny przegląd"/><published>2024-09-10T22:19:50+00:00</published><updated>2024-09-10T22:19:50+00:00</updated><id>https://skszymon.eu/blog/2024/dg-iso-standards</id><content type="html" xml:base="https://skszymon.eu/blog/2024/dg-iso-standards/"><![CDATA[<h1 id="które-normy-iso-stosować-w-data-governance">Które normy ISO stosować w Data Governance?</h1> <p>Standardy ISO mogą brzmieć jak biurokratyczny koszmar, ale w programie Data Governance pełnią realną funkcję — dają <strong>audytowalny punkt odniesienia</strong> dla regulatorów, zarządu i partnerów biznesowych. Zamiast wymyślać koło od nowa, możesz oprzeć się na sprawdzonych frameworkach.</p> <p>W tym artykule przeglądam normy ISO, które najczęściej pojawiają się w kontekście zarządzania danymi. Nie musisz wdrażać ich wszystkich — ale warto wiedzieć, jakie masz opcje.</p> <hr/> <h2 id="iso-8000--jakość-danych">ISO 8000 — jakość danych</h2> <p><a href="https://www.iso.org/standard/81745.html">ISO 8000</a> to seria standardów poświęcona wyłącznie <strong>jakości danych</strong>. Obejmuje wymiary takie jak:</p> <ul> <li><strong>Składnia</strong> — czy dane mają poprawny format?</li> <li><strong>Pochodzenie</strong> — skąd dane się wzięły?</li> <li><strong>Kompletność</strong> — czy wszystkie wymagane pola są wypełnione?</li> <li><strong>Dokładność</strong> — czy dane odzwierciedlają rzeczywistość?</li> </ul> <p>ISO 8000 składa się z kilku części. Na przykład:</p> <ul> <li><strong>ISO 8000-110</strong> — określa wymagania dotyczące wymiany danych bazowych (Master Data)</li> <li><strong>ISO 8000-115:2018</strong> — definiuje zasady tworzenia identyfikatorów w zarządzaniu danymi bazowymi, np. w katalogach produktów</li> <li><strong>ISO 8000-120</strong> — specyfikuje wymagania dotyczące pochodzenia (provenance) danych</li> </ul> <p>Normą zarządza komitet techniczny <a href="https://www.iso.org/committee/54158.html">ISO TC 184/SC 4</a> (Dane przemysłowe). W praktyce jest bardziej popularna w sektorach produkcyjnych i logistycznych, ale jej zasady mają znaczenie universalne.</p> <hr/> <h2 id="isoiec-38505-12017--governance-danych">ISO/IEC 38505-1:2017 — governance danych</h2> <p><a href="https://www.iso.org/standard/56639.html">ISO/IEC 38505-1:2017</a> to standard, który <strong>wprost adresuje Data Governance</strong> jako część szerszego governance IT. Kluczowe założenia:</p> <ul> <li>Zarządzanie danymi to <strong>podzbiór zarządzania IT</strong>, które jest z kolei częścią zarządzania organizacją</li> <li>Definiuje odpowiedzialności <strong>organu zarządzającego</strong> (np. zarządu) za dane</li> <li>Nacisk na <em>efektywne, skuteczne i akceptowalne</em> wykorzystanie danych</li> </ul> <p>Dlaczego jest ważny? Bo mówi wprost: <strong>odpowiedzialność za dane spoczywa na zarządzie</strong>, nie na IT. To potężny argument, kiedy próbujesz uzyskać sponsoring C-level dla programu DG.</p> <blockquote> <p><strong>Uwaga:</strong> ISO 38505 to zbiór wytycznych (guidelines), nie wymagań — co oznacza, że <strong>nie można się z niego certyfikować</strong>. To odróżnia go od np. ISO 27001.</p> </blockquote> <hr/> <h2 id="iso-22745--wymiana-danych-bazowych">ISO 22745 — wymiana danych bazowych</h2> <p><a href="https://www.iso.org/standard/73283.html">ISO 22745</a> jest mniej znany, ale istotny w środowiskach, gdzie wymiana Master Data między organizacjami jest kluczowa (np. łańcuch dostaw, obronność). Standard wywodzi się z <a href="https://www.nato.int/cps/en/natohq/topics_69349.htm">NATO Codification System (NCS)</a> i definiuje:</p> <ul> <li>Wymagania dotyczące <strong>składni</strong> przekazów z danymi bazowymi</li> <li><strong>Kodowanie semantyczne</strong> — zapewnienie, że termin „śruba M8” znaczy to samo w Polsce i w Niemczech</li> <li><strong>Przenośność</strong> danych między systemami różnych dostawców</li> </ul> <hr/> <h2 id="iso-3166--dane-referencyjne">ISO 3166 — dane referencyjne</h2> <p>Pozornie prosty, ale <a href="https://www.iso.org/iso-3166-country-codes.html">ISO 3166</a> jest jednym z najszerzej stosowanych standardów na świecie. Definiuje kody dla nazw krajów:</p> <ul> <li><code class="language-plaintext highlighter-rouge">PL</code> = Polska</li> <li><code class="language-plaintext highlighter-rouge">DE</code> = Niemcy</li> <li><code class="language-plaintext highlighter-rouge">US</code> = Stany Zjednoczone</li> </ul> <p>W kontekście DG, implementacja standardowych danych referencyjnych (Reference Data Management) to jedno z najłatwiejszych „quick wins” — zastąpienie chaotycznych wpisów typu „Polska”, „PL”, „POL”, „Poland” jednym kodem ISO.</p> <hr/> <h2 id="isoiec-11179--rejestr-metadanych">ISO/IEC 11179 — rejestr metadanych</h2> <p><a href="https://www.iso.org/standard/78915.html">ISO/IEC 11179</a> to standard rejestru metadanych (Metadata Registry — MDR). W siedmiu częściach definiuje ramy do <strong>opisu, organizacji i wymiany metadanych</strong> w organizacji.</p> <p>Dobrym przykładem zastosowania jest australijski <a href="https://meteor.aihw.gov.au/">METeOR (Metadata Online Registry)</a> prowadzony przez Australian Institute of Health and Welfare — kompletny rejestr metadanych oparty na ISO 11179, który pozwala zrozumieć definicje danych zdrowotnych w całym kraju.</p> <hr/> <h2 id="iso-270012022--bezpieczeństwo-informacji">ISO 27001:2022 — bezpieczeństwo informacji</h2> <p><a href="https://www.iso.org/standard/27001">ISO 27001:2022</a> to międzynarodowy standard dla <strong>systemów zarządzania bezpieczeństwem informacji (ISMS)</strong>. Choć to standard z domeny security, nie DG, oba obszary mają silne powiązania:</p> <h3 id="gdzie-data-governance-spotyka-iso-27001">Gdzie Data Governance spotyka ISO 27001?</h3> <table> <thead> <tr> <th>Obszar</th> <th>Rola DG</th> <th>Wymaganie ISO 27001</th> </tr> </thead> <tbody> <tr> <td><strong>Klasyfikacja danych</strong></td> <td>DG definiuje, co jest „wrażliwe”</td> <td>ISO 27001 wymaga klasyfikacji do zastosowania odpowiednich zabezpieczeń</td> </tr> <tr> <td><strong>Kontrola dostępu</strong></td> <td>DG ustala, kto jest właścicielem danych</td> <td>ISO 27001 wymaga ograniczenia dostępu do autoryzowanych osób</td> </tr> <tr> <td><strong>Zarządzanie ryzykiem</strong></td> <td>DG identyfikuje krytyczne zasoby danych</td> <td>ISO 27001 wymaga oceny ryzyk i odpowiednich zabezpieczeń</td> </tr> <tr> <td><strong>Audyt</strong></td> <td>DG utrzymuje rejestr polityk i zmian</td> <td>ISO 27001 wymaga regularnych audytów wewnętrznych i zewnętrznych</td> </tr> <tr> <td><strong>Reagowanie na incydenty</strong></td> <td>DG ułatwia identyfikację zakresu naruszenia</td> <td>ISO 27001 wymaga formalnego zarządzania incydentami</td> </tr> <tr> <td><strong>Szkolenia</strong></td> <td>DG buduje świadomość wartości danych</td> <td>ISO 27001 kładzie nacisk na edukację pracowników</td> </tr> </tbody> </table> <p><strong>Kluczowe:</strong> ISO 27001 jest jednym z niewielu standardów, z którego <strong>można uzyskać certyfikat</strong>. Dojrzałość Data Governance znacząco ułatwia spełnienie jego wymagań.</p> <hr/> <h2 id="którą-normę-wybrać-na-start">Którą normę wybrać na start?</h2> <p>Nie musisz wdrażać wszystkich naraz. Moja rekomendacja:</p> <ol> <li><strong>Zacznij od ISO 38505</strong> — daje ramę organizacyjną dla programu DG</li> <li><strong>Równolegle wdrażaj ISO 8000</strong> — konkretne wymiary jakości danych</li> <li><strong>Użyj ISO 3166 i podobnych</strong> — szybkie wdrożenie standardowych danych referencyjnych (quick win)</li> <li><strong>ISO 27001 wdróż, gdy masz budżet</strong> — certyfikacja to inwestycja, ale ROI jest jasne (zgodność regulacyjna)</li> </ol> <hr/> <h2 id="podsumowanie">Podsumowanie</h2> <p>Standardy ISO to nie cel sam w sobie — to <strong>narzędzia budujące wiarygodność</strong> programu Data Governance. Dają Ci gotowe ramy, audytowalną zgodność i wspólny język z regulatorami.</p> <p>Pamiętaj:</p> <ul> <li>Certyfikacja jest możliwa tylko dla standardów z <strong>wymaganiami</strong> (np. ISO 27001), nie dla wytycznych (np. ISO 38505)</li> <li>Nie próbuj wdrażać wszystkiego naraz — <strong>zacznij od tego, co daje wartość biznesową</strong></li> <li>Standardy ISO najlepiej działają w połączeniu z frameworkami branżowymi (DAMA DMBOK, DGI)</li> </ul> <hr/> <h3 id="źródła-i-dalsze-lektury">Źródła i dalsze lektury</h3> <ul> <li>ISO 8000, <a href="https://www.iso.org/standard/81745.html"><em>Data Quality</em></a></li> <li>ISO/IEC 38505-1:2017, <a href="https://www.iso.org/standard/56639.html"><em>Governance of Data</em></a></li> <li>ISO 22745, <a href="https://www.iso.org/standard/73283.html"><em>Industrial Data — Open Technical Dictionaries</em></a></li> <li>ISO 3166, <a href="https://www.iso.org/iso-3166-country-codes.html"><em>Country Codes</em></a></li> <li>ISO/IEC 11179, <a href="https://www.iso.org/standard/78915.html"><em>Metadata Registries</em></a></li> <li>ISO 27001:2022, <a href="https://www.iso.org/standard/27001"><em>Information Security Management Systems</em></a></li> <li>Australian Institute of Health and Welfare, <a href="https://meteor.aihw.gov.au/"><em>METeOR Metadata Registry</em></a></li> </ul>]]></content><author><name></name></author><category term="data-governance"/><category term="data-governance"/><category term="data-standards"/><category term="iso-standards"/><summary type="html"><![CDATA[Przegląd standardów ISO przydatnych w programie Data Governance — od jakości danych (ISO 8000) po bezpieczeństwo informacji (ISO 27001).]]></summary></entry><entry><title type="html">Wstęp do Data Governance</title><link href="https://skszymon.eu/blog/2024/data-governance-start/" rel="alternate" type="text/html" title="Wstęp do Data Governance"/><published>2024-08-21T21:55:10+00:00</published><updated>2024-08-21T21:55:10+00:00</updated><id>https://skszymon.eu/blog/2024/data-governance-start</id><content type="html" xml:base="https://skszymon.eu/blog/2024/data-governance-start/"><![CDATA[<h1 id="wstęp-do-data-governance--od-czego-zacząć">Wstęp do Data Governance — od czego zacząć?</h1> <p>Kiedy zaczynałem swoją drogę w Data Governance, największym zaskoczeniem było to, jak mało ten temat dotyczy technologii, a jak bardzo — <strong>ludzi i procesów</strong>. Zarządzanie danymi to nie kolejne narzędzie IT — to zmiana sposobu myślenia o danych w całej organizacji.</p> <p>Ten post jest początkiem serii, w której chcę pokazać Data Governance z perspektywy praktyka — nie podręcznikowej teorii, a realnych doświadczeń.</p> <hr/> <h2 id="co-tak-naprawdę-oznacza-data-governance">Co tak naprawdę oznacza Data Governance?</h2> <p>Według <a href="https://www.dama.org/cpages/body-of-knowledge">DAMA International</a>, Data Governance to <em>„sprawowanie władzy, kontroli i wspólnego podejmowania decyzji dotyczących zarządzania zasobami danych”</em>. Brzmi akademicko, ale w praktyce sprowadza się do prostego pytania: <strong>kto jest odpowiedzialny za dane i jak zapewniamy, że są wiarygodne?</strong></p> <p>Wiele organizacji traktuje dane jako „rzecz IT”. Dział IT odpowiada za serwery i bazy danych, więc chyba odpowiada też za „dane”? To fundamentalny błąd. Dane to <strong>zasób biznesowy</strong> — analogicznie jak finanse (których nie zarządza dział IT, tylko CFO).</p> <blockquote> <p><em>„Data Governance is about behavior — creating the organizational behaviors around how data is managed.”</em><br/> — <a href="https://www.amazon.com/Data-Governance-Design-Deploy-Sustain/dp/0124158293">John Ladley, „Data Governance: How to Design, Deploy, and Sustain an Effective Data Governance Program”</a></p> </blockquote> <hr/> <h2 id="trzy-filary-od-których-zaczyna-się-każdy-program-dg">Trzy filary, od których zaczyna się każdy program DG</h2> <p>Na podstawie frameworku <a href="https://www.dama.org/cpages/body-of-knowledge">DMBOK2 (Data Management Body of Knowledge)</a> oraz <a href="https://datagovernance.com/the-data-governance-basics/">Data Governance Institute</a>, program Data Governance opiera się na trzech filarach:</p> <h3 id="1-ludzie--role-i-odpowiedzialności">1. Ludzie — role i odpowiedzialności</h3> <p>Bez jasnego przypisania odpowiedzialności, nikt nie czuje się „właścicielem” danych. Kluczowe role to:</p> <ul> <li><strong>Data Owner</strong> — osoba biznesowa odpowiedzialna za dany obszar danych (np. dyrektor sprzedaży jest ownerem danych sprzedażowych)</li> <li><strong>Data Steward</strong> — operacyjny opiekun jakości danych w danym obszarze. To ta osoba, która na co dzień pilnuje, że dane są poprawne i spójne</li> <li><strong>Data Governance Council</strong> — komitet decyzyjny, który ustala priorytety i rozstrzyga konflikty</li> </ul> <p>W mojej praktyce widzę, że organizacje najczęściej potykają się na tym etapie — nikt nie chce być „tym od danych”, bo to dodatkowa odpowiedzialność bez jasnych korzyści. Zmiana tego nastawienia wymaga wsparcia zarządu.</p> <h3 id="2-procesy--polityki-i-standardy">2. Procesy — polityki i standardy</h3> <p>Polityki to nie dokumenty leżące na półce — to żywe zasady, które muszą być egzekwowane. Kluczowe obszary to:</p> <ul> <li><strong>Klasyfikacja danych</strong> — które dane są publiczne, a które poufne?</li> <li><strong>Kontrola dostępu</strong> — kto i do jakich danych ma dostęp?</li> <li><strong>Zarządzanie zmianą</strong> — jak wprowadzamy zmiany w definicjach i strukturach danych?</li> <li><strong>Jakość danych</strong> — jakie metryki DQ mierzymy i kto reaguje na problemy?</li> </ul> <p><a href="https://www.iso.org/standard/56639.html">ISO/IEC 38505-1:2017</a> dostarcza ram dla zarządzania danymi jako elementu governance IT. Warto się z nim zapoznać, bo mówi wprost o odpowiedzialności zarządu za dane — a każdy Data Owner lubi się dowiedzieć, że to nie „dodatkowe zadanie”, a odpowiedzialność wynikająca z międzynarodowego standardu.</p> <h3 id="3-technologia--narzędzia-wspierające">3. Technologia — narzędzia wspierające</h3> <p>Technologia jest <strong>ostatnia</strong>, nie pierwsza. To częsty błąd: kupujemy narzędzie, a potem szukamy do niego procesu. Narzędzia wspierające DG to m.in.:</p> <ul> <li><strong>Data Catalog</strong> — centralna baza wiedzy o danych (np. <a href="https://www.ataccama.com/">Ataccama</a>, <a href="https://www.collibra.com/">Collibra</a>, <a href="https://www.alation.com/">Alation</a>)</li> <li><strong>Data Quality engines</strong> — narzędzia do profilowania, czyszczenia i monitorowania jakości</li> <li><strong>Data Lineage</strong> — śledzenie przepływu danych przez systemy</li> <li><strong>Business Glossary</strong> — słownik terminów biznesowych zapewniający spójne rozumienie danych</li> </ul> <hr/> <h2 id="wyzwania-które-spotkasz-na-starcie">Wyzwania, które spotkasz na starcie</h2> <p>Każdy program DG napotyka te same bariery. <a href="https://www.gartner.com/en/information-technology/glossary/data-governance">Gartner</a> raportuje, że do 2025 roku 80% organizacji próbujących skalować biznes oparty na danych poniesie porażkę z powodu braku nowoczesnego podejścia do Data Governance.</p> <h3 id="opór-zmian">Opór zmian</h3> <p>Ludzie przyzwyczajeni do „swoich Exceli” nie chcą, żeby ktoś wchodził im w dane. Kluczem jest <strong>komunikacja korzyści</strong>: „Data Governance nie zabiera Ci danych — sprawia, że możesz im ufać.”</p> <h3 id="brak-szybkich-wyników">Brak szybkich wyników</h3> <p>DG to maraton, nie sprint. Efekty widać po miesiącach, a zarząd chce ROI po kwartale. Warto więc zacząć od <strong>quick wins</strong> — np. oczyszczenie duplikatów klientów, które od razu da mierzalny efekt.</p> <h3 id="zbyt-szeroki-zakres-na-start">Zbyt szeroki zakres na start</h3> <p>Próba objęcia programem DG wszystkich systemów i danych naraz to recepta na porażkę. Lepiej zacząć od <strong>jednego domeny danych</strong> (np. dane klientów) i rozszerzać.</p> <hr/> <h2 id="od-czego-zacząć-moja-rekomendacja">Od czego zacząć? Moja rekomendacja</h2> <p>Na podstawie frameworku <a href="https://datagovernance.com/">DGI (Data Governance Institute)</a> i własnych doświadczeń, proponuję taki start:</p> <ol> <li><strong>Zidentyfikuj sponsora</strong> — bez wsparcia na poziomie C-level program DG nie przetrwa</li> <li><strong>Wybierz jedną domenę danych</strong> — np. dane klientów lub dane produktowe</li> <li><strong>Zmapuj obecny stan</strong> — kto jest właścicielem? Jakie systemy przechowują te dane? Jak wygląda jakość?</li> <li><strong>Zdefiniuj 5-10 kluczowych reguł</strong> — zaczynaj od mała, ale od rzeczy mierzalnych</li> <li><strong>Mierz i raportuj</strong> — pokaż postęp na dashboardzie, nie w raporcie na 50 stron</li> </ol> <hr/> <h2 id="podsumowanie">Podsumowanie</h2> <p>Data Governance to nie projekt z datą zakończenia — to <strong>ciągły proces</strong>. Rozpoczynając, warto pamiętać, że:</p> <ul> <li><strong>Ludzie &gt; procesy &gt; technologia</strong> — w tej kolejności</li> <li><strong>Quick wins budują momentum</strong> — pokaż wartość wcześnie</li> <li><strong>Komunikacja jest kluczem</strong> — DG musi mieć sens dla biznesu, nie tylko dla IT</li> </ul> <p>W następnych postach w tej serii zajmę się konkretnymi frameworkami i standardami ISO, które pomagają nadać programowi DG strukturę.</p> <hr/> <h3 id="źródła-i-dalsze-lektury">Źródła i dalsze lektury</h3> <ul> <li>DAMA International, <a href="https://www.dama.org/cpages/body-of-knowledge"><em>DMBOK2: Data Management Body of Knowledge</em></a>, 2017</li> <li>John Ladley, <a href="https://www.amazon.com/Data-Governance-Design-Deploy-Sustain/dp/0124158293"><em>Data Governance: How to Design, Deploy, and Sustain an Effective Data Governance Program</em></a>, 2nd Edition, 2019</li> <li>Data Governance Institute, <a href="https://datagovernance.com/the-data-governance-basics/"><em>The DGI Data Governance Framework</em></a></li> <li>ISO/IEC 38505-1:2017, <a href="https://www.iso.org/standard/56639.html"><em>Information technology — Governance of IT — Governance of data</em></a></li> <li>Gartner, <a href="https://www.gartner.com/en/information-technology/glossary/data-governance"><em>Data Governance Definition</em></a></li> </ul>]]></content><author><name></name></author><category term="data-governance"/><category term="data-governance"/><category term="data-management"/><category term="data-quality"/><category term="data-stewardship"/><summary type="html"><![CDATA[Od czego zacząć przygodę z zarządzaniem danymi? Kluczowe elementy, role i wyzwania — z perspektywy praktyka.]]></summary></entry><entry><title type="html">Wstęp do Promptingu</title><link href="https://skszymon.eu/blog/2023/guide-prompting/" rel="alternate" type="text/html" title="Wstęp do Promptingu"/><published>2023-10-12T20:55:12+00:00</published><updated>2023-10-12T20:55:12+00:00</updated><id>https://skszymon.eu/blog/2023/guide-prompting</id><content type="html" xml:base="https://skszymon.eu/blog/2023/guide-prompting/"><![CDATA[<figure> <picture> <source class="responsive-img-srcset" srcset="/assets/img/F7iibfCWwAAikHc-480.webp 480w,/assets/img/F7iibfCWwAAikHc-800.webp 800w,/assets/img/F7iibfCWwAAikHc-1400.webp 1400w," type="image/webp" sizes="95vw"/> <img src="/assets/img/F7iibfCWwAAikHc.jpg" class="img-fluid rounded z-depth-1" width="100%" height="auto" data-zoomable="" loading="lazy" onerror="this.onerror=null; document.querySelectorAll('.responsive-img-srcset').forEach(function (n) { n.remove(); });"/> </picture> </figure> <div class="caption"> Obraz wygenerowany przy pomocy Midjourney </div> <h1 id="uczenie-się-sztuki-promptingu-jak-twój-blog-może-stać-się-akademią-ai">Uczenie się Sztuki Promptingu: Jak Twój Blog Może Stać Się Akademią AI</h1> <p>W dobie cyfrowej rewolucji, gdzie algorytmy kształtują nasz świat w niezliczonych, niewidocznych sposobach, istnieje jedna umiejętność, która wyróżnia się jako klucz do efektywnego wykorzystania potencjału sztucznej inteligencji: <em>prompting</em>. Wprowadzając na swój blog serię lekcji poświęconych tej fascynującej dyscyplinie, chcę otworzyć Ci drzwi do świata, gdzie granice między ludzką kreatywnością a maszynową precyzją stają się coraz bardziej płynne.</p> <p>W świecie, gdzie AI coraz bardziej przenika nasze codzienne życie, umiejętność efektywnego komunikowania się z maszynami jest nie tylko cenna, ale wręcz niezbędna. Chciałym stać się przewodnikiem w tej ekscytującej podróży. Te lekcje to nie tylko szansa na naukę, ale również okazja do otwarcia dyskusji, wymiany doświadczeń i wspólnego rozwoju.</p> <p>Zapraszam Cię do wstąpienia w świat promptingu, gdzie każde pytanie staje się kluczem do nowej wiedzy, a każda odpowiedź otwiera nowe możliwości. Ta seria artykułów to nie tylko przewodnik, to twoja mapa na drodze do opanowania sztuki dialogu z AI. Razem odkryjemy, jak za pomocą prostych poleceń możemy kształtować, uczyć i współpracować z inteligentnymi systemami, odkrywając nowe horyzonty możliwości.</p> <h1 id="wstęp-do-promptingu">Wstęp do promptingu</h1> <p>W tej lekcji przećwiczysz dwie zasady promptowania i związane z nimi taktyki, aby napisać skuteczne podpowiedzi dla dużych modeli językowych.</p> <h2 id="setup">Setup</h2> <h4 id="załaduj-klucz-api-i-odpowiednie-biblioteki-pythona">Załaduj klucz API i odpowiednie biblioteki Pythona.</h4> <div class="jupyter-notebook" style="position: relative; width: 100%; margin: 0 auto;"> <div class="jupyter-notebook-iframe-container"> <iframe src="/assets/jupyter/l2-guidelines.ipynb.html" style="position: absolute; top: 0; left: 0; border-style: none;" width="100%" height="100%" onload="this.parentElement.style.paddingBottom = (this.contentWindow.document.documentElement.scrollHeight + 10) + 'px'"></iframe> </div> </div> <h1 id="iteracyjny-rozwój-promptu-krok-po-kroku-do-doskonałości">Iteracyjny Rozwój Promptu: Krok po Kroku do Doskonałości</h1> <p>W fascynującym świecie interakcji z sztuczną inteligencją, iteracyjny rozwój promptu stanowi klucz do odkrywania i ulepszania możliwości, jakie oferują nam te zaawansowane technologie. Wyobraź sobie, że każde polecenie, które dajesz AI, jest jak nasionko, z którego wyrasta drzewo pełne rozmaitych owoców wiedzy i możliwości. Iteracyjny rozwój promptu to proces, w którym każda iteracja, czyli powtórzenie, jest jak kolejny etap wzrostu tego drzewa, przybliżając nas do doskonałego zrozumienia i wykorzystania potencjału AI.</p> <p>W tym artykule zgłębimy, jak krok po kroku rozwijać i udoskonalać nasze prompty. To podróż, w której nauczymy się nie tylko, jak zadawać lepsze pytania, ale również jak interpretować i wykorzystywać odpowiedzi AI w celu ciągłego doskonalenia naszych zapytań. To proces wymagający cierpliwości, analizy i kreatywności, ale jego nagroda jest nieoceniona – zdobycie umiejętności, która staje się coraz bardziej cenna w świecie zdominowanym przez technologię.</p> <p>Podążając tą ścieżką, zrozumiemy, że iteracyjny rozwój promptu to nie tylko techniczna umiejętność. To artystyczne rzemiosło, które łączy w sobie precyzję inżyniera z wyobraźnią poety. Zapraszam Cię do odkrycia, jak przez iteracje, eksperymenty i modyfikacje, możemy odkryć pełnię potencjału dialogu z AI, otwierając nowe horyzonty dla naszej kreatywności i innowacyjności.</p> <h2 id="setup-1">Setup</h2> <h4 id="załaduj-klucz-api-i-odpowiednie-biblioteki-pythona-1">Załaduj klucz API i odpowiednie biblioteki Pythona.</h4> <div class="jupyter-notebook" style="position: relative; width: 100%; margin: 0 auto;"> <div class="jupyter-notebook-iframe-container"> <iframe src="/assets/jupyter/l3-iterative.ipynb.html" style="position: absolute; top: 0; left: 0; border-style: none;" width="100%" height="100%" onload="this.parentElement.style.paddingBottom = (this.contentWindow.document.documentElement.scrollHeight + 10) + 'px'"></iframe> </div> </div> <h1 id="podsumowywanie-artykułów-przy-pomocy-ai">Podsumowywanie Artykułów przy Pomocy AI</h1> <h2 id="wpływ-ai-na-proces-podsumowywania-tekstu">Wpływ AI na Proces Podsumowywania Tekstu</h2> <p>Sztuczna inteligencja (AI) rewolucjonizuje sposób, w jaki podchodzimy do przetwarzania i analizowania tekstu. Technologie AI, takie jak przetwarzanie języka naturalnego (NLP) i uczenie maszynowe, umożliwiają tworzenie skondensowanych, precyzyjnych streszczeń z dużych zbiorów danych tekstowych. Co kluczowe, te narzędzia nie tylko skracają tekst, ale również zachowują kluczowe informacje i kontekst, co jest nieosiągalne przy tradycyjnych metodach streszczeń.</p> <h3 id="znaczenie-nlp-i-uczenia-maszynowego">Znaczenie NLP i Uczenia Maszynowego</h3> <ol> <li><strong>NLP (Natural Language Processing)</strong>: Rozwój NLP pozwolił maszynom na zrozumienie i interpretację ludzkiego języka w sposób bardziej zaawansowany. Dzięki temu AI jest w stanie rozpoznawać kluczowe punkty w tekście, analizować kontekst i generować streszczenia, które są zarówno zwięzłe, jak i merytoryczne.</li> <li><strong>Uczenie Maszynowe</strong>: Algorytmy uczenia maszynowego uczą się ze wzorców i danych, co pozwala im na usprawnienie procesu podsumowywania. Im więcej danych jest przetwarzanych, tym dokładniejsze stają się streszczenia.</li> </ol> <h2 id="techniki-podsumowywania-w-ai">Techniki Podsumowywania w AI</h2> <p>Podsumowywanie artykułów przez AI opiera się na dwóch głównych metodach:</p> <ol> <li><strong>Podsumowywanie ekstrakcyjne</strong>: Polega na wybieraniu kluczowych fraz i zdań bezpośrednio z tekstu źródłowego. Ta metoda zachowuje oryginalną strukturę i słownictwo, jednocześnie redukując długość tekstu.</li> <li><strong>Podsumowywanie abstrakcyjne</strong>: W tym przypadku, AI tworzy nowe zdania, które niekoniecznie występują w oryginalnym tekście, ale które przekazują główne idee. Ta metoda może lepiej oddać niuanse i znaczenie tekstu, choć wiąże się z większym ryzykiem nieścisłości.</li> </ol> <h3 id="przykłady-zastosowania">Przykłady Zastosowania</h3> <ul> <li><strong>Wiadomości i Raporty</strong>: Skrócenie artykułów prasowych lub raportów biznesowych do postaci streszczeń.</li> <li><strong>Praca Akademicka</strong>: Streszczenie badań i publikacji naukowych, co pozwala na szybką ocenę ich istoty.</li> </ul> <h2 id="wyzwania-i-ograniczenia">Wyzwania i Ograniczenia</h2> <p>Mimo że AI znacznie usprawniła proces podsumowywania, istnieją pewne wyzwania:</p> <ul> <li><strong>Zrozumienie Kontekstu</strong>: AI czasami może nie dostrzegać subtelnego kontekstu czy ironii w tekście.</li> <li><strong>Strata Niuanów</strong>: W procesie streszczenia mogą ginąć ważne niuanse i szczegóły.</li> <li><strong>Niebezpieczeństwo Błędów</strong>: AI może generować nieprecyzyjne lub mylące streszczenia, szczególnie w przypadku złożonych lub dwuznacznych tematów.</li> </ul> <h2 id="przyszłość-podsumowań-ai">Przyszłość Podsumowań AI</h2> <p>Sektor AI rozwija się w ekspresowym tempie. Oczekuje się, że w niedalekiej przyszłości, AI będzie mogła lepiej rozumieć złożoności języka ludzkiego, w tym ironię, humor, a nawet kontekst kulturowy. To otworzy nowe możliwości dla jeszcze bardziej efektywnych i precyzyjnych podsumowań.</p> <h2 id="zakończenie">Zakończenie</h2> <p>Podsumowywanie artykułów przy użyciu AI jest coraz bardziej popularne, dzięki swojej efektywności i precyzji. Chociaż narzędzia te są nadal w rozwoju i mają pewne ograniczenia, ich potencjał do przekształcenia sposobu, w jaki przetwarzamy i analizujemy informacje, jest ogromny. W miarę rozwoju technologii, możemy oczekiwać, że AI będzie jeszcze lepiej radzić sobie z zadaniami związanymi z podsumowywaniem tekstów, co może radykalnie zmienić krajobraz analizy danych i dostępu do informacji. Poniżej znajduje się przykład kodu w Pythonie, który wykorzystuje AI do podsumowania artykułu.</p> <div class="jupyter-notebook" style="position: relative; width: 100%; margin: 0 auto;"> <div class="jupyter-notebook-iframe-container"> <iframe src="/assets/jupyter/l4-summarizing.ipynb.html" style="position: absolute; top: 0; left: 0; border-style: none;" width="100%" height="100%" onload="this.parentElement.style.paddingBottom = (this.contentWindow.document.documentElement.scrollHeight + 10) + 'px'"></iframe> </div> </div> <h1 id="analiza-sentymentu-i-tematyki-w-recenzjach-produktów-i-artykułach">Analiza sentymentu i tematyki w recenzjach produktów i artykułach</h1> <h2 id="zrozumienie-sentymentu-klucz-do-głębszej-analizy-opinii">Zrozumienie sentymentu: Klucz do głębszej analizy opinii</h2> <p>Analiza sentymentu jest niezbędnym narzędziem w zrozumieniu emocji i postaw wyrażanych w recenzjach. Wykorzystując techniki NLP (Natural Language Processing), możemy sklasyfikować opinie jako pozytywne, negatywne lub neutralne. To podejście pozwala nam na szybkie identyfikowanie ogólnych trendów w percepcji produktu lub tematu.</p> <h3 id="przykład-zastosowania">Przykład zastosowania</h3> <p>Załóżmy, że analizujemy recenzje nowego smartfona. Wykorzystując algorytmy analizy sentymentu, możemy określić, czy większość użytkowników jest zadowolona z jego funkcji, czy też występują częste skargi.</p> <h2 id="odkrywanie-tematów-wydobywanie-ukrytych-wzorców">Odkrywanie tematów: Wydobywanie ukrytych wzorców</h2> <p>Oprócz sentymentu, kluczowe jest wydobycie tematów dominujących w tekście. Metody jak LDA (Latent Dirichlet Allocation) pozwalają na identyfikowanie grup słów, które często występują razem, co z kolei wskazuje na konkretne tematy.</p> <h3 id="przykład-praktyczny">Przykład praktyczny</h3> <p>W przypadku recenzji różnych modeli telefonów, LDA może ujawnić, że dyskusje często krążą wokół baterii, jakości aparatu lub wydajności systemu. Te tematy stanowią kluczowe punkty zainteresowania konsumentów.</p> <h2 id="integracja-sentymentu-i-tematyki-holistyczne-podejście">Integracja sentymentu i tematyki: Holistyczne podejście</h2> <p>Kluczowe jest połączenie analizy sentymentu i tematyki. Pozwala to na pełniejsze zrozumienie opinii, identyfikując nie tylko to, jak ludzie czują, ale także co konkretnie wpływa na ich opinie.</p> <h3 id="przykład-zintegrowanej-analizy">Przykład zintegrowanej analizy</h3> <p>Jeśli większość negatywnych recenzji smartfona koncentruje się na baterii, podczas gdy pozytywne opinie często dotyczą aparatu, daje to producentom cenne wskazówki, na co zwrócić uwagę w przyszłych modelach.</p> <h2 id="wyzwania-i-ograniczenia-1">Wyzwania i ograniczenia</h2> <p>Warto pamiętać o ograniczeniach takich metod. Ironia i sarkazm mogą być trudne do wykrycia, a kontekst kulturowy i językowy również odgrywa znaczącą rolę. Dlatego ważne jest ciągłe doskonalenie algorytmów i uwzględnianie różnorodnych danych.</p> <h2 id="zastosowanie-w-świecie-mediów">Zastosowanie w świecie mediów</h2> <p>Analiza sentymentu i tematyki znajduje zastosowanie również w analizie artykułów z wiadomościami. Możemy monitorować, jak zmienia się narracja wokół ważnych wydarzeń, co może być kluczowe dla dziennikarzy, analityków i badaczy społecznych.</p> <h3 id="przykład-zastosowania-1">Przykład zastosowania</h3> <p>Analizując artykuły dotyczące zmian klimatycznych, możemy zidentyfikować zarówno ogólny sentyment (np. zaniepokojenie, optymizm) jak i konkretne tematy dominujące w debacie (np. odnawialne źródła energii, polityka klimatyczna).</p> <h2 id="podsumowanie">Podsumowanie</h2> <p>Analiza sentymentu i tematyki w recenzjach produktów i artykułach z wiadomościami otwiera nowe możliwości dla zrozumienia opinii publicznych. Pozwala na głębsze zrozumienie tego, co konsumentowie i czytelnicy uważają za ważne, a także jakie emocje wywołują te tematy. Jest to nieocenione narzędzie dla marketerów</p> <div class="jupyter-notebook" style="position: relative; width: 100%; margin: 0 auto;"> <div class="jupyter-notebook-iframe-container"> <iframe src="/assets/jupyter/l5-inferring.ipynb.html" style="position: absolute; top: 0; left: 0; border-style: none;" width="100%" height="100%" onload="this.parentElement.style.paddingBottom = (this.contentWindow.document.documentElement.scrollHeight + 10) + 'px'"></iframe> </div> </div> <h1 id="tłumaczenie-języka-sprawdzanie-pisowni-i-gramatyki-dostosowywanie-tonu-i-konwersja-formatu-z-dużymi-modelami-językowymi">Tłumaczenie języka, sprawdzanie pisowni i gramatyki, dostosowywanie tonu, i konwersja formatu z dużymi modelami językowymi</h1> <h2 id="wprowadzenie-do-zaawansowanych-technik-edytorskich">Wprowadzenie do zaawansowanych technik edytorskich</h2> <p>W erze cyfrowej, gdzie komunikacja odgrywa kluczową rolę w codziennym życiu i pracy, umiejętność skutecznego przekazywania myśli i pomysłów stała się niezbędna. W tym kontekście, duże modele językowe (LMs) otworzyły nowe horyzonty w zakresie tłumaczenia języka, sprawdzania pisowni i gramatyki, dostosowywania tonu oraz konwersji formatu tekstu. Te narzędzia nie tylko ułatwiają komunikację międzykulturową, ale także znacząco podnoszą jakość pisemnych materiałów.</p> <h3 id="znaczenie-zróżnicowania-struktury-tekstu">Znaczenie zróżnicowania struktury tekstu</h3> <p>Jednym z aspektów, który odróżnia pisanie człowieka od maszyny, jest wybuchowość – zdolność do tworzenia tekstów o zmiennej długości i strukturze zdań. Wysoka wybuchowość w tekście utrzymuje uwagę czytelnika i dodaje dynamiki narracji, co jest kluczowe w utrzymaniu zaangażowania odbiorców. Duże modele językowe, wykorzystywane odpowiednio, mogą naśladować tę cechę, tworząc teksty, które bardziej przypominają naturalne pisanie.</p> <h4 id="przykłady-zastosowania-lms-w-edycji-tekstu">Przykłady zastosowania LMs w edycji tekstu</h4> <ul> <li><strong>Tłumaczenie języka:</strong> LMs potrafią nie tylko tłumaczyć słowa i zwroty, ale także uwzględniać kontekst kulturowy i idiomatyczny, co czyni tłumaczenia bardziej naturalnymi i zrozumiałymi.</li> <li><strong>Sprawdzanie pisowni i gramatyki:</strong> Zaawansowane algorytmy LMs wykraczają poza proste korekty, identyfikując subtelne błędy stylistyczne i strukturalne, co pozwala na głębsze doskonalenie tekstu.</li> <li><strong>Dostosowywanie tonu:</strong> LMs mogą analizować i modyfikować ton tekstu, dostosowując go do oczekiwań i preferencji określonej grupy docelowej.</li> <li><strong>Konwersja formatu:</strong> Duże modele językowe potrafią przekształcać teksty, dostosowując je do różnych formatów i standardów, co jest szczególnie przydatne w pracy redaktorskiej i publikacyjnej.</li> </ul> <h3 id="strategie-poprawy-jakości-tekstu">Strategie poprawy jakości tekstu</h3> <h4 id="użycie-opisowych-nagłówków">Użycie opisowych nagłówków</h4> <p>Zastosowanie opisowych nagłówków pomaga w organizacji tekstu i ułatwia czytelnikom nawigację. Jest to szczególnie ważne w długich artykułach, gdzie czytelnicy mogą szukać konkretnych informacji.</p> <h4 id="zmienność-długości-i-struktury-zdań">Zmienność długości i struktury zdań</h4> <p>Aby utrzymać zainteresowanie odbiorców, tekst powinien zawierać zdania o różnej długości i budowie. Ta technika nie tylko uatrakcyjnia narrację, ale także ułatwia zrozumienie przekazu.</p> <h4 id="szczegółowe-przykłady-i-analogie">Szczegółowe przykłady i analogie</h4> <p>Użycie przykładów i analogii sprawia, że abstrakcyjne koncepcje stają się bardziej przystępne i zrozumiałe. Jest to skuteczny sposób na wyjaśnienie skomplikowanych pomysłów w sposób, który jest bardziej przemawiający do wyobraźni czytelników.</p> <h3 id="podsumowanie-1">Podsumowanie</h3> <p>Duże modele językowe rewolucjonizują sposób, w jaki tworzymy i edytujemy teksty. Ich zdol</p> <p>ność do tłumaczenia, korekty gramatycznej, dostosowywania tonu i konwersji formatu otwiera nowe możliwości dla pisarzy, redaktorów i tłumaczy. Poprzez strategiczne wykorzystanie tych narzędzi, możemy nie tylko podnieść jakość naszych tekstów, ale także wzbogacić ich strukturę i dynamikę, co jest kluczowe dla utrzymania zaangażowania czytelnika.</p> <p>Jednakże, aby w pełni wykorzystać potencjał LMs, ważne jest, aby pamiętać o zasadach dobrego pisania, takich jak zmienność struktury zdań, zróżnicowanie tonu i klarowność przekazu. W połączeniu z zaawansowanymi technologiami, te praktyki mogą znacząco poprawić sposób, w jaki komunikujemy nasze myśli i pomysły, czyniąc je bardziej przystępnymi i angażującymi dla szerokiej publiczności.</p> <div class="jupyter-notebook" style="position: relative; width: 100%; margin: 0 auto;"> <div class="jupyter-notebook-iframe-container"> <iframe src="/assets/jupyter/l6-transforming.ipynb.html" style="position: absolute; top: 0; left: 0; border-style: none;" width="100%" height="100%" onload="this.parentElement.style.paddingBottom = (this.contentWindow.document.documentElement.scrollHeight + 10) + 'px'"></iframe> </div> </div> <div class="jupyter-notebook" style="position: relative; width: 100%; margin: 0 auto;"> <div class="jupyter-notebook-iframe-container"> <iframe src="/assets/jupyter/l7-expanding.ipynb.html" style="position: absolute; top: 0; left: 0; border-style: none;" width="100%" height="100%" onload="this.parentElement.style.paddingBottom = (this.contentWindow.document.documentElement.scrollHeight + 10) + 'px'"></iframe> </div> </div> <div class="jupyter-notebook" style="position: relative; width: 100%; margin: 0 auto;"> <div class="jupyter-notebook-iframe-container"> <iframe src="/assets/jupyter/l8-chatbot.ipynb.html" style="position: absolute; top: 0; left: 0; border-style: none;" width="100%" height="100%" onload="this.parentElement.style.paddingBottom = (this.contentWindow.document.documentElement.scrollHeight + 10) + 'px'"></iframe> </div> </div>]]></content><author><name></name></author><category term="prompt-engineering"/><category term="prompt"/><category term="basics"/><category term="prompting"/><category term="chatgpt"/><category term="llm"/><summary type="html"><![CDATA[Praktyczny przewodnik po promptingu — zasady, iteracyjny rozwój, podsumowywanie, analiza sentymentu i transformacja tekstu z OpenAI API.]]></summary></entry><entry><title type="html">Historia wizualizacji danych</title><link href="https://skszymon.eu/blog/2023/history-visualization/" rel="alternate" type="text/html" title="Historia wizualizacji danych"/><published>2023-06-11T11:59:00+00:00</published><updated>2023-06-11T11:59:00+00:00</updated><id>https://skszymon.eu/blog/2023/history-visualization</id><content type="html" xml:base="https://skszymon.eu/blog/2023/history-visualization/"><![CDATA[<figure> <picture> <source class="responsive-img-srcset" srcset="/assets/img/History-of-Data-Visualization-11-480.webp 480w,/assets/img/History-of-Data-Visualization-11-800.webp 800w,/assets/img/History-of-Data-Visualization-11-1400.webp 1400w," type="image/webp" sizes="95vw"/> <img src="/assets/img/History-of-Data-Visualization-11.png" class="img-fluid rounded z-depth-1" width="100%" height="auto" data-zoomable="" loading="lazy" onerror="this.onerror=null; document.querySelectorAll('.responsive-img-srcset').forEach(function (n) { n.remove(); });"/> </picture> </figure> <div class="caption"> Diagram nawiązujący do wizualizacji danych i historii. Źródło: <a href="https://www.researchgate.net/publication/221027352_Data_Mining_and_Data_Visualization" target="_blank">ResearchGate</a> </div> <h2 id="historia-wizualizacji-danych">Historia wizualizacji danych</h2> <p>Wizualizacja danych ma długą i fascynującą historię, sięgającą głęboko w przeszłość. Od prymitywnych malowideł naskalnych po dzisiejsze zaawansowane narzędzia komputerowe, wizualizacja danych odegrała znaczącą rolę w rozwijaniu naszego zrozumienia informacji i przedstawianiu jej w sposób zarówno atrakcyjny, jak i efektywny. W pierwszym rozdziale tej książki przyjrzymy się początkom wizualizacji danych i dowiemy się, jak nasza zdolność do przedstawiania informacji wizualnie ewoluowała na przestrzeni wieków.</p> <p>Nasza historia wizualizacji danych rozpoczyna się w odległej przeszłości, gdy ludzie odkrywali potrzebę przedstawiania danych w formie graficznej. Już tysiące lat temu nasi przodkowie stosowali prymitywne techniki, aby przekazać informacje wizualnie. Malowidła naskalne, hieroglify i piktogramy były pierwszymi krokami w procesie tworzenia graficznych reprezentacji danych. Te wczesne formy wizualizacji pomagały w komunikacji, dzieleniu się historiami i gromadzeniu wiedzy.</p> <p>Wraz z upływem czasu ludzie doskonalili swoje umiejętności w tworzeniu coraz bardziej zaawansowanych form wizualizacji danych. W średniowieczu powstały mapy, które umożliwiały przedstawienie geograficznych informacji w sposób czytelny i intuicyjny. W renesansie naukowcy i matematycy opracowywali wykresy i diagramy, które pomagały w analizowaniu danych liczbowych i zrozumieniu złożonych zależności.</p> <p>Jednak prawdziwa rewolucja w dziedzinie wizualizacji danych nastąpiła wraz z rozwojem technologii komputerowej. W drugiej połowie XX wieku powstały pierwsze programy komputerowe, które umożliwiły tworzenie interaktywnych grafik, wykresów i diagramów. Przy użyciu komputera, dane mogły być przedstawiane w sposób bardziej precyzyjny, elastyczny i efektywny niż kiedykolwiek wcześniej.</p> <p>W pierwszym części naszej podróży po historii wizualizacji danych zgłębimy te fascynujące etapy rozwoju. Będziemy badać ewolucję od prymitywnych rysunków naskalnych do zaawansowanych narzędzi wizualizacyjnych dostępnych obecnie. Przyjrzymy się kluczowym postaciom i przełomowym momentom, które wpłynęły na rozwój tej dziedziny.</p> <hr/> <h2 id="początki-wizualizacji-danych">Początki wizualizacji danych</h2> <p>“Pierwsze próby wizualizacji danych sięgają czasów prehistorycznych” - to zdanie rozbudza moją ciekawość. Był to okres, kiedy ludzie używali malowideł naskalnych i rysunków do przedstawienia informacji. Fascynujące jest to, jak nasi przodkowie z epoki kamienia potrafili przekazywać skomplikowane koncepty za pomocą prostych form wyrazu.</p> <p>Dla przykładu, jednym z najstarszych znanych dowodów na wizualizację danych jest malowidło naskalne odkryte w jaskini Lascaux we Francji. Te malunki, które datuje się na około 17 000 lat temu, przedstawiają różne zwierzęta, takie jak byki i konie, a także symboliczne znaki, które mogły reprezentować liczby czy zmiany pór roku. <a href="https://www.lascaux.fr/en">oficjalna strona jaskini Lascaux</a>, na której znajdują się informacje na temat prehistorycznych malowideł.</p> <p>Zauważalne jest, że ta prymitywna forma wizualizacji danych posiadała w sobie zarówno aspekt artystyczny, jak i informatyczny. Dzięki temu dzisiaj możemy dowiedzieć się więcej o życiu tych prehistorycznych ludzi - od ich codziennych zajęć, poprzez to, co jedli, aż do jakich zwierząt obawiali się najbardziej.</p> <p>Ciekawostką jest również fakt, że niektóre z tych malowideł mogą być wcześniejszymi formami map. Np. malowidło naskalne w jaskini w Bedeilhac w południowej Francji, które ma około 14 000 lat, zawiera układ linii i kropek, który według niektórych badaczy może przedstawiać okoliczne tereny.</p> <p>Jeśli chodzi o grafy z tego okresu, nie były one skomplikowane jak dzisiejsze wykresy słupkowe czy kołowe, ale z pewnością można zauważyć próbę przedstawienia pewnych wzorców i trendów. Na przykład, rysunki w jaskiniach często przedstawiały zwierzęta w różnych fazach ruchu, co mogło sugerować migracje tych gatunków w określonym czasie roku.</p> <p>Choć metody wizualizacji danych z tamtych czasów mogą wydawać nam się dziś prymitywne, stanowiły one podstawę dla rozwoju tej dziedziny, jaki widzimy obecnie. Wzory, symbole i obrazy wykorzystywane przez naszych przodków nie tylko pomagały im przetrwać, ale również przekazywały ważne informacje przyszłym pokoleniom.</p> <hr/> <h3 id="william-playfair-ojciec-współczesnej-wizualizacji-danych">William Playfair: Ojciec współczesnej wizualizacji danych</h3> <p>Playfair, szkocki ekonomista i inżynier, to postać, której nie da się pominąć, mówiąc o historii wizualizacji danych. To on w XVIII wieku wprowadził wykresy liniowe, słupkowe i kołowe jako narzędzia do prezentacji danych statystycznych.</p> <p>Jego dzieło “Commercial and Political Atlas” z 1786 roku jest uznawane za pierwsze znane zastosowanie wykresu liniowego do reprezentowania danych. Playfair zauważył, że wykresy mogą “przemawiać” do odbiorców bardziej bezpośrednio niż surowe liczby, pomagając im lepiej zrozumieć i zinterpretować dane.</p> <p>Dzięki innowacjom Playfaira wizualizacja danych stała się bardziej dostępna i zrozumiała. Wykresy liniowe, słupkowe i kołowe stały się podstawą analizy danych, a ich wpływ jest widoczny nawet w dzisiejszych narzędziach do wizualizacji danych.</p> <p>Poniżej znajduje się kilka przykładów wykresów, które Playfair stworzył w swojej książce “Commercial and Political Atlas”. Zauważ, jak wykresy te są podobne do tych, które tworzymy dzisiaj.</p> <figure> <picture> <source class="responsive-img-srcset" srcset="/assets/img/1073px-1786_Playfair_-_Exports_and_Imports_of_Scotland_to_and_from_different_parts_for_one_Year_from_Christmas_1780_to_Christmas_1781-480.webp 480w,/assets/img/1073px-1786_Playfair_-_Exports_and_Imports_of_Scotland_to_and_from_different_parts_for_one_Year_from_Christmas_1780_to_Christmas_1781-800.webp 800w,/assets/img/1073px-1786_Playfair_-_Exports_and_Imports_of_Scotland_to_and_from_different_parts_for_one_Year_from_Christmas_1780_to_Christmas_1781-1400.webp 1400w," type="image/webp" sizes="95vw"/> <img src="/assets/img/1073px-1786_Playfair_-_Exports_and_Imports_of_Scotland_to_and_from_different_parts_for_one_Year_from_Christmas_1780_to_Christmas_1781.jpg" class="img-fluid rounded z-depth-1" width="100%" height="auto" data-zoomable="" loading="lazy" onerror="this.onerror=null; document.querySelectorAll('.responsive-img-srcset').forEach(function (n) { n.remove(); });"/> </picture> </figure> <div class="caption"> Na tym wykresie słupkowym przedstawiono import i eksport Szkocji z i do 17 krajów w 1781 roku. Źródło: <a href="https://en.wikipedia.org/wiki/William_Playfair#/media/File:1786_Playfair_-_Exports_and_Imports_of_Scotland_to_and_from_different_parts_for_one_Year_from_Christmas_1780_to_Christmas_1781.jpg">Wikipedia</a> </div> <figure> <picture> <source class="responsive-img-srcset" srcset="/assets/img/Playfair-piechart-480.webp 480w,/assets/img/Playfair-piechart-800.webp 800w,/assets/img/Playfair-piechart-1400.webp 1400w," type="image/webp" sizes="95vw"/> <img src="/assets/img/Playfair-piechart.jpg" class="img-fluid rounded z-depth-1" width="100%" height="auto" data-zoomable="" loading="lazy" onerror="this.onerror=null; document.querySelectorAll('.responsive-img-srcset').forEach(function (n) { n.remove(); });"/> </picture> </figure> <div class="caption"> Wykres kołowy z Playfair's Statistical Breviary (1801), pokazujący proporcje imperium tureckiego znajdującego się w Azji, Europie i Afryce przed 1789 rokiem. Źródło: <a href="https://en.wikipedia.org/wiki/William_Playfair#/media/File:Playfair-piechart.jpg">Wikipedia</a> </div> <hr/> <h2 id="wizualizacja-danych-w-służbie-zdrowia">Wizualizacja danych w służbie zdrowia</h2> <p>Wizualizacja danych jest obecnie szeroko stosowana w wielu dziedzinach, ale jedną z najbardziej obiecujących jest służba zdrowia. Wizualizacja danych może pomóc w analizie i interpretacji danych medycznych, co może prowadzić do lepszych decyzji klinicznych i poprawy opieki zdrowotnej.</p> <hr/> <h3 id="florence-nightingale">Florence Nightingale</h3> <p>Najbardziej znane osiągnięcie Nightingale w dziedzinie wizualizacji danych to jej “diagram kołowy” (polar area diagram), który często nazywany jest “diagramem różycy”. Użyła go do ilustracji, jakie były przyczyny zgonów wśród żołnierzy podczas Wojny Krymskiej.</p> <p>Jej diagram różycy przedstawiał, że większość zgonów nie wynikała bezpośrednio z obrażeń wojennych, ale z chorób zakaźnych. Ta wizualizacja miała ogromny wpływ na reformy sanitarno-higieniczne w obozach wojskowych.</p> <p>Praca Nightingale była nie tylko innowacyjna pod kątem technicznym, ale miała również długotrwałe konsekwencje dla zdrowia publicznego. Dzięki jej wizualizacjom zwrócono uwagę na istotne kwestie higieny i opieki zdrowotnej, co przyczyniło się do poprawy warunków w obozach wojskowych, a później także w innych instytucjach zdrowotnych.</p> <figure> <picture> <source class="responsive-img-srcset" srcset="/assets/img/R-480.webp 480w,/assets/img/R-800.webp 800w,/assets/img/R-1400.webp 1400w," type="image/webp" sizes="95vw"/> <img src="/assets/img/R.jpg" class="img-fluid rounded z-depth-1" width="100%" height="auto" data-zoomable="" loading="lazy" onerror="this.onerror=null; document.querySelectorAll('.responsive-img-srcset').forEach(function (n) { n.remove(); });"/> </picture> </figure> <div class="caption"> Diagram obszarowy biegunowy został wynaleziony przez Florence Nightingale, aby zobrazować skalę niepotrzebnych zgonów w brytyjskich szpitalach wojskowych podczas Wojny Krymskiej (1954-56). Źródło: <a href="https://en.wikipedia.org/wiki/Florence_Nightingale#/media/File:Diagram_of_the_causes_of_mortality_in_the_Army_in_the_East_FOLIO_I._VOL.I._Wellcome_L0000551.jpg">Wikipedia</a> </div> <p>Obszar każdego kolorowego klinu, mierzony od środka, jest proporcjonalny do reprezentowanej statystyki. Niebieskie klasy reprezentują zgony z “zapobiegawczych lub łagodzących” chorób zakaźnych (chorób zakaźnych takich jak cholera czy tyfus), różowe klasy zgony z ran, a szare klasy zgony z wszystkich innych przyczyn. Śmiertelność osiągnęła szczyt w styczniu 1855 roku, kiedy zmarło 2761 osób na choroby zakaźne, 83 z ran i 324 z innych przyczyn.</p> <p>Bazując na średniej sile armii wynoszącej 32393, Nightingale obliczyła roczną śmiertelność na poziomie 1174 na 1000. Diagram pochodzi od Bernarda Cohena, “Florence Nightingale,” Scientific American, marzec 1984. Oryginalnie pochodzi z książki Nightingale “Notes on Matters Affecting the Health, Efficiency and Hospital Administration of the British Army”, opublikowanej w 1858 roku.</p> <hr/> <h3 id="john-snow">John Snow</h3> <p>John Snow, angielski lekarz, jest znany z tego, że jako pierwszy zastosował wizualizację danych do badania epidemiologii. W 1854 roku, podczas epidemii cholery w Londynie, Snow stworzył mapę, która przedstawiała lokalizację przypadków zachorowań na cholerę w dzielnicy Soho.</p> <p>Snow zidentyfikował źródło epidemii jako publiczną pompę wodną na Broad Street. Zrobił to, lokalizując przypadki choroby na mapie, co pozwoliło mu zobaczyć skupisko w okolicy tej pompy. Ta wizualizacja była kluczowa dla zrozumienia, jak cholera rozprzestrzenia się przez zanieczyszczoną wodę.</p> <p>Praca Snowa pomogła zmienić podejście do zdrowia publicznego i zrozumieć, jak choroby zakaźne, takie jak cholera, mogą rozprzestrzeniać się w populacji. Jego metoda używania mapy do wizualizacji danych zdrowotnych jest nadal stosowana dzisiaj, na przykład w monitorowaniu rozprzestrzeniania się wirusa COVID-19.</p> <figure> <picture> <source class="responsive-img-srcset" srcset="/assets/img/88b66df5d4c7aa5216284822e6591481-480.webp 480w,/assets/img/88b66df5d4c7aa5216284822e6591481-800.webp 800w,/assets/img/88b66df5d4c7aa5216284822e6591481-1400.webp 1400w," type="image/webp" sizes="95vw"/> <img src="/assets/img/88b66df5d4c7aa5216284822e6591481.jpg" class="img-fluid rounded z-depth-1" width="100%" height="auto" data-zoomable="" loading="lazy" onerror="this.onerror=null; document.querySelectorAll('.responsive-img-srcset').forEach(function (n) { n.remove(); });"/> </picture> </figure> <div class="caption"> Wykres pokazujący temperaturę i śmiertelność Londynu dla każdego tygodnia 11 lat, 1840-50 z Farr's Report on the 1849 epidemic. Numer WI L0039176, Wellcome Library Źródło: <a href="https://wellcomecollection.org/works/yp5q3q3n">Wellcome Collection</a> </div> <hr/> <h2 id="charles-minard-wizualizacja-danych-wojennych">Charles Minard: Wizualizacja danych wojennych</h2> <p>Charles Minard, francuski inżynier i ekonomista, jest sławny z powodu swojej niezwykłej umiejętności prezentowania skomplikowanych danych w prosty i zrozumiały sposób. Minard jest najbardziej znany z wyjątkowego diagramu przedstawiającego katastrofalną kampanię Napoleona w Rosji w 1812 roku. Ta innowacyjna wizualizacja, często uważana za “najlepszy wykres statystyczny wszech czasów”, jednocześnie ilustruje sześć różnych zmiennych: liczbę wojsk, odległość, temperaturę, datę, kierunek ruchu i lokalizację.</p> <p>Minard użył szerokości linii, aby reprezentować liczbę pozostałych sił Napoleona w różnych etapach marszu. Wizualizacja jest nie tylko estetycznie przyjemna, ale również mocno oddziałuje na odbiorcę poprzez pokazanie ogromu strat poniesionych podczas kampanii. W dodatku, dołączony do wykresu wykres liniowy ilustruje temperatury podczas odwrotu armii francuskiej, dodając kolejny wymiar do tej opowieści.</p> <p>Wizualizacja Minarda jest doskonałym przykładem tego, jak skomplikowane zestawy danych można przekształcić w intuicyjne obrazy, które pozwalają odbiorcy szybko zrozumieć kontekst i znaczenie prezentowanych informacji. Ta praca jest do dziś inspiracją dla specjalistów od wizualizacji danych na całym świecie.</p> <figure> <picture> <source class="responsive-img-srcset" srcset="/assets/img/mapa-charles-minard-480.webp 480w,/assets/img/mapa-charles-minard-800.webp 800w,/assets/img/mapa-charles-minard-1400.webp 1400w," type="image/webp" sizes="95vw"/> <img src="/assets/img/mapa-charles-minard.png" class="img-fluid rounded z-depth-1" width="100%" height="auto" data-zoomable="" loading="lazy" onerror="this.onerror=null; document.querySelectorAll('.responsive-img-srcset').forEach(function (n) { n.remove(); });"/> </picture> </figure> <div class="caption"> Wykres przedstawiający liczbę wojsk Napoleona w czasie kampanii rosyjskiej w 1812 roku. Źródło: <a href="https://commons.wikimedia.org/wiki/File:Minard.png">Wikimedia Commons</a> </div> <p>Ten mapa pokazuje ruch wojsk podczas kampanii rosyjskiej. Liczba żołnierzy, którzy rozpoczęli kampanię, wynosiła około 442 000 - pokazane po lewej stronie mapy na brązowo. Do Moskwy dotarło 100 000 żołnierzy - prawa strona mapy na brązowo. Na dolnym, prawym, czarnym pasku mapa pokazuje liczbę żołnierzy, którzy opuścili Moskwę - 100 000 - a po prawej stronie na czarno wskazuje, że do Francji wróciło tylko 10 000 żołnierzy. Dolna część wykresu pokazuje skalę temperatury na całej trasie.</p> <p>Dzięki temu wykresowi mamy szczegółowy obraz tego, co zaszło w bitwie. Jeżeli przeanalizujesz wykres, łatwiej będzie zrozumieć i “zwizualizować” liczby niż na podstawie tekstu. Wyjaśnienie tekstowe utrudnia zrozumienie liczb w odpowiedniej kolejności wielkości. Spoglądając na wykres, możemy lepiej zrozumieć katastrofę, jaką była ta bitwa.</p> <hr/> <h2 id="początki-współczesnej-wizualizacji-danych">Początki współczesnej wizualizacji danych</h2> <p>Wizualizacja danych zaczęła się rozwijać wraz z rozwojem technologii komputerowych. W latach 60. XX wieku pojawiły się pierwsze komputery, które umożliwiły przetwarzanie i wizualizację dużych zbiorów danych. W tym samym czasie pojawiły się pierwsze narzędzia do wizualizacji danych, takie jak systemy graficzne, które umożliwiły użytkownikom tworzenie wykresów i diagramów bez konieczności pisania kodu.</p> <hr/> <h3 id="herman-hollerith-maszyna-do-przetwarzania-danych">Herman Hollerith: Maszyna do przetwarzania danych</h3> <figure> <picture> <source class="responsive-img-srcset" srcset="/assets/img/R%20(1)-480.webp 480w,/assets/img/R%20(1)-800.webp 800w,/assets/img/R%20(1)-1400.webp 1400w," type="image/webp" sizes="95vw"/> <img src="/assets/img/R%20(1).jpg" class="img-fluid rounded z-depth-1" width="100%" height="auto" data-zoomable="" loading="lazy" onerror="this.onerror=null; document.querySelectorAll('.responsive-img-srcset').forEach(function (n) { n.remove(); });"/> </picture> </figure> <div class="caption"> Maszyna do sortowania i liczenia kart perforowanych zaprojektowana przez Hermana Holleritha. Źródło: <a href="https://americanhistory.si.edu/collections/search/object/nmah_694410">National Museum of American History</a> </div> <p>Herman Hollerith, amerykański wynalazca i statystyk, jest postacią, która zasługuje na szczególne uznanie w dziedzinie przetwarzania i wizualizacji danych. To on zaprojektował i skonstruował pierwszą funkcjonalną maszynę do przetwarzania danych - maszynę do sortowania i liczenia kart perforowanych. Ta innowacyjna technologia zrewolucjonizowała sposób, w jaki dane były zbierane i analizowane, stanowiąc punkt zwrotny dla przyszłych generacji komputerów.</p> <p>Dzięki swojemu wynalazkowi, Hollerith znacznie przyspieszył proces spisu powszechnego w Stanach Zjednoczonych w 1890 roku, co wcześniej zajmowało wiele lat. Jego maszyna potrafiła przetworzyć dane o populacji w ciągu zaledwie kilku miesięcy, co było wtedy niewyobrażalne.</p> <p>W 1896 roku Hollerith założył Tabulating Machine Company, firmę, która później przekształciła się w giganta technologicznego, znanego dzisiaj jako IBM. Wykorzystanie kart perforowanych do przechowywania i przetwarzania danych, zapoczątkowane przez Holleritha, stało się fundamentem dla rozwoju technologii informacyjnej. Bez jego przyczynkowego wkładu, historia wizualizacji danych mogłaby wyglądać zupełnie inaczej. Praca Holleritha położyła podwaliny pod nowoczesne metody analizy i wizualizacji danych, które teraz są nieodłączną częścią naszego świata.</p> <hr/> <h3 id="john-tukey-ojciec-eksploracyjnej-analizy-danych">John Tukey: Ojciec eksploracyjnej analizy danych</h3> <p>John Tukey, wybitny amerykański matematyk i statystyk, jest powszechnie uznawany za “ojca eksploracyjnej analizy danych” (EDA - Exploratory Data Analysis). EDA to podejście do analizy danych, które polega na eksploracji i wizualizacji danych przed formalnym testowaniem statystycznym, pozwalając na zrozumienie ich struktury, wykrycie anomalii, sprawdzenie założeń czy identyfikację potencjalnych modeli.</p> <p>Jednym z kluczowych wkładów Tukeya w dziedzinę wizualizacji danych jest wynalezienie box plotu (diagramu pudełkowego). Diagram ten to prosty, ale bardzo efektywny sposób prezentowania rozkładu danych. Dzięki box plotom, możemy łatwo zauważyć medianę, kwartyle i potencjalne wartości odstające, co daje nam podstawowe zrozumienie rozkładu danych.</p> <p>Tukey zawsze podkreślał wagę wizualizacji w procesie analizy danych. W swojej pracy “Eksploracyjna Analiza Danych” z 1977 roku, wyjaśnił jak różne metody wizualizacji, takie jak histogramy, wykresy punktowe czy wykresy Q-Q, mogą pomóc w zrozumieniu danych. Ta praca jest do dziś fundamentalnym źródłem wiedzy na temat EDA.</p> <p>Dziedzictwo Tukeya żyje w każdej analizie danych, która zaczyna się od dokładnego zrozumienia danych poprzez ich wizualizację. Jego wkład w dziedzinę statystyki i wizualizacji danych jest nieoceniony, a jego prace nadal inspirują kolejne generacje analityków danych.</p> <hr/> <h3 id="edward-tufte-wizualizacja-danych-w-xx-wieku">Edward Tufte: Wizualizacja danych w XX wieku</h3> <p>Edward Tufte, amerykański teoretyk informacji, jest niezaprzeczalnie jednym z najbardziej wpływowych pionierów w dziedzinie wizualizacji danych w XX wieku. Zasłynął z tworzenia szczegółowych zasad dotyczących efektywnej prezentacji danych statystycznych, które znalazły odzwierciedlenie w jego licznych publikacjach.</p> <p>Jego książka “The Visual Display of Quantitative Information”, jest kluczowym dziełem w tej dziedzinie, stanowiącym kanon dobrej praktyki wizualizacji danych. Tufte wprowadził tutaj takie pojęcia jak “lie factor” - czynnik kłamstwa, który mierzy stopień zniekształcenia danych prezentowanych na wykresie, czy “data-ink ratio” - stosunek “atramentu danych” do całkowitej ilości “atramentu” użytego do stworzenia wykresu.</p> <p>Kolejne z jego znanych dzieł, “Envisioning Information”, koncentruje się na różnorodnych sposobach prezentacji informacji, wykorzystując przykłady z tak różnych dziedzin jak kartografia, sztuka, projektowanie interfejsów, czy nauki przyrodnicze.</p> <p>Edward Tufte jest również znany z wprowadzenia koncepcji “sparklines” - małych, intensywnych, prostych, wykresów słupkowych, które pozwalają na skondensowane przedstawienie informacji. Wszystkie te idee i koncepcje przyczyniły się do kształtowania nowoczesnej wizualizacji danych, a wkład Tufta jest nieoceniony dla dzisiejszych projektantów i analityków danych.</p> <hr/> <h3 id="jacques-bertin-semiotyka-wizualizacji-danych">Jacques Bertin: Semiotyka wizualizacji danych</h3> <p>Jacques Bertin, wybitny francuski kartograf i teoretyk informacji, jest postacią niezwykle istotną dla dziedziny wizualizacji danych. Jego wkład polegał na stworzeniu semiologii graficznej, czyli nauki o znakach graficznych, ich strukturze i sposobie działania na odbiorcę.</p> <p>W swojej fundamentalnej książce “Semiology of Graphics”, opublikowanej po raz pierwszy w 1967 roku, Bertin przedstawił siedem fundamentalnych zmiennych wizualnych: położenie, kształt, kolor, orientację, wielkość, wartość i teksturę. Każda z tych zmiennych ma specyficzne właściwości i potrafi przekazywać określone informacje w sposób zrozumiały dla odbiorcy.</p> <p>Bertin zwracał uwagę na to, że wizualizacja danych musi być przemyślana i zrozumiała dla odbiorcy. Podkreślał, że skuteczność wizualizacji danych zależy od prawidłowego wyboru i zastosowania zmiennych wizualnych.</p> <p>Nauka Bertina dotycząca semiologii graficznej ma olbrzymie znaczenie dla dzisiejszych praktyk wizualizacji danych. Jego idee nadal inspirują i kształtują sposób, w jaki prezentujemy i interpretujemy informacje. “Semiology of Graphics” Jacques’a Bertina to absolutna klasyka w dziedzinie wizualizacji danych, która pomogła zdefiniować podstawy tej dyscypliny.</p> <hr/> <h2 id="początek-ery-komputerowej-wizualizacji-danych-koniec-lat-60-xx-wieku">Początek ery komputerowej wizualizacji danych (koniec lat 60. XX wieku)</h2> <p>Koniec lat 60. XX wieku to ważny moment w historii wizualizacji danych, który zapoczątkował erę komputerowej wizualizacji danych. To właśnie w tym czasie, dzięki gwałtownemu rozwojowi technologii informatycznej, zaczęto stosować komputery do tworzenia i interpretowania wizualizacji danych.</p> <p>Przełomem były innowacyjne programy takie jak Systat, SPSS i SAS. Te narzędzia, pierwotnie stworzone do analizy statystycznej, umożliwiły automatyczną wizualizację danych. Oferta tych narzędzi szybko się rozrastała, co umożliwiło tworzenie skomplikowanych wykresów i diagramów z dużych zbiorów danych w relatywnie krótkim czasie.</p> <p>Wraz z upowszechnieniem komputerów osobistych i rozwojem technologii graficznych, możliwości wizualizacji danych stały się praktycznie nieograniczone. Rozpoczął się proces tworzenia coraz to nowszych narzędzi do analizy i prezentacji danych, które umożliwiły wizualizację informacji na skalę niewyobrażalną wcześniej.</p> <p>Rozwój technologii komputerowych sprawił, że analiza i wizualizacja danych stała się szybsza, dokładniejsza i bardziej dostępna. To właśnie te lata dały początek nowoczesnej wizualizacji danych, której jesteśmy świadkami dzisiaj. Ewolucja narzędzi do wizualizacji danych, która rozpoczęła się w latach 60., jest nadal w toku, a możliwości jakie daje nam dzisiejsza technologia są niezwykle ekscytujące.</p> <hr/> <h3 id="ben-shneiderman-interaktywna-wizualizacji-danych">Ben Shneiderman: Interaktywna wizualizacji danych</h3> <p>Ben Shneiderman, wybitny amerykański informatyk i profesor na University of Maryland, jest uznawany za pioniera w dziedzinie interaktywnej wizualizacji danych. Jego prace wyznaczyły nowy kierunek w podejściu do prezentacji i interakcji z danymi.</p> <p>Shneiderman jest twórcą koncepcji “direct manipulation”, czyli bezpośredniej manipulacji, co zrewolucjonizowało sposób, w jaki użytkownicy komputerów współdziałają z interfejsami użytkownika. Podkreślał znaczenie interaktywności i angażowania użytkowników w proces analizy danych.</p> <p>Jego publikacja “The Eyes Have It: A Task by Data Type Taxonomy for Information Visualizations” jest fundamentalnym dziełem w tej dziedzinie. W tej pracy, Shneiderman wprowadził koncepcję “Mantra Wizualizacji”, składającą się z czterech zasad: “Przeglądaj pierwszy, zoom i filtruj, następnie szczegół na życzenie”. Ta koncepcja jest do dzisiaj stosowana w projektowaniu interaktywnych wizualizacji danych.</p> <p>Shneiderman miał ogromny wpływ na rozwój interaktywnych wizualizacji danych, a jego koncepcje nadal są stosowane w nowoczesnym projektowaniu UX/UI. Dzięki jego wkładowi, dzisiaj możemy korzystać z narzędzi, które umożliwiają łatwe i intuicyjne poruszanie się po skomplikowanych zestawach danych. Jego prace są nieocenionym źródłem wiedzy dla każdego, kto interesuje się wizualizacją danych.</p> <hr/> <h2 id="podsumowanie">Podsumowanie</h2> <p>Podsumowując, historia wizualizacji danych to niezwykle interesujące i dynamiczne pole, które od starożytności do współczesności przeszło przez wiele faz ewolucji. Od prostych reprezentacji w formie map i wykresów, przez innowacyjne prace Minarda, aż do wynalazku maszyn do przetwarzania danych przez Holleritha, wizualizacja danych zawsze była nieodzownym elementem nauki i biznesu.</p> <p>XX wiek to era ekspansji w dziedzinie wizualizacji danych, kiedy to tacy giganci jak Tukey, Tufte i Bertin zdefiniowali podstawy tej dziedziny. Z biegiem lat, z nadejściem komputerów, możliwości wizualizacji danych znacznie się poszerzyły, czemu przyczyniły się także prace Shneidermana.</p> <p>Obecnie, w dobie cyfryzacji i rosnącej ilości dostępnych danych, wizualizacja danych odgrywa kluczową rolę w wielu dziedzinach życia. Służy do przekazywania skomplikowanych informacji w przystępnej formie, pomaga w podejmowaniu decyzji i jest nieodzowna w świecie nauki, technologii i biznesu.</p> <p>Oczekuje się, że przyszłość przyniesie jeszcze więcej innowacji w dziedzinie wizualizacji danych, a jej znaczenie będzie dalej rosnąć. Jak pokazuje historia, potencjał tej dziedziny jest nieograniczony, a nasza zdolność do wykorzystania danych w celu zrozumienia świata wciąż się rozwija.</p> <hr/>]]></content><author><name></name></author><category term="article"/><category term="analiza-danych"/><category term="narzedzia"/><category term="historia"/><category term="wizualizacje"/><category term="visualization"/><category term="edukacja"/><summary type="html"><![CDATA[Od malowideł naskalnych po Tableau — historia wizualizacji danych przez pryzmat Playfaira, Nightingale, Snowa, Minarda, Tukeya i Tufta.]]></summary></entry></feed>