تصور البيانات |

تصوّر المخطوطات 2 (تحديث)

Sat, 20 Nov 2021 16:00:00 +0000

وفاءً بما وعدت، هذه نسخة جديدة من الخريطة الشجرية التفاعلية التي عرضتها في ، وقد صارت هذه المرة بوضعَي عرض.

ملاحظة

تحسن المشاهدة إذا ضبطتم الصفحة على الوضع الفاتح (انقروا أيقونة القمر في أعلى اليمين).

Group folios by category

متصفّح بصري للأرشيف

Sun, 20 Jun 2021 16:00:00 +0000

المشكلة

في الطبعات الرقمية مفارقة: فهي تضع وثائق عسيرة المنال في متناول جمهور أوسع، غير أن تجريدها من مادّتها يحرم القارئ مدخله الحسي، فيتيه ويكاد ينصرف عن محتواها. ومن ثمّ يغدو التنقل في مستودعات الوثائق الضخمة عملًا شاقًّا يهاب المرء الإقدام عليه، لا عند قليلي الخبرة بالبحث الأرشيفي وحدهم، بل عند القراء ذوي الإعاقات الإدراكية أيضًا.

الحل

هنا تأتي البيانات الوصفية الأرشيفية بالعون. فهي تمكّننا من بناء تجريدات بصرية تفاعلية تمنح القارئ مدخلًا حسيًّا بديلًا، فترتقي بسهولة الاستعمال وإمكانية الوصول معًا. ولجعل الأرشيف قابلًا للتصفح بالعين، تفي بالغرض خريطة شجرية (treemap)، أو أي مخطط يفكك البيانات الهرمية تفكيكًا ناجعًا.

التجربة

في تجربتي الأولى طوّعت المكتوبة بـD3.js، وأضفت إليها روابط تشعبية. وهي تمثّل المخطوطة BnF Ms Fr 640 وأوراقها والمداخل التي تضمها كل ورقة، وتدل الألوان على الفئة الغالبة. ومن مرّر المؤشر فوق أي مدخل ظهر له مزيد من البيانات، ومنها الرابط التشعبي إلى المخطوطة.
وبهذا تصير الخريطة الشجرية فهرسًا بصريًّا تفاعليًّا يعرض على القارئ، في لمحة سريعة متجاوبة، محتويات المخطوطة وأبعاد كل ورقة وكل مدخل فيها.
~~سأمضي في الأشهر المقبلة في التجريب على هذه الفكرة بمخططات أخرى وتسلسلات هرمية أخرى… فترقّبوا!~~ للاطلاع على نسخة جديدة من الخريطة الشجرية، انقروا .

ملاحظة

تحسن المشاهدة إذا ضبطتم الصفحة على الوضع الفاتح (انقروا أيقونة القمر في أعلى اليمين).

Click any cell to zoom in, or the top to zoom out.

الأرشيف في لمحة

Mon, 24 May 2021 16:00:00 +0000

المشكلة

قد تبلغ الفوضى في الأرشيفات التاريخية حدًّا يبعث على اليأس، ورصيد Mediceo del Principato في خير شاهد. فلم يُجرد منه إلا نزر يسير، وتناثر كثير من وثائقه في ما يزيد على 6500 مجلد من غير سبب ظاهر. ويزيد الطين بلّة أن الأرشيف لا يتيح لكم الاطلاع إلا على عدد محدود من المجلدات (أو الـfilze كما يسمونها): أربع filze في اليوم في الأحوال العادية، هبطت في زمن الجائحة إلى أربع كل أسبوعين. وإذ تغيب الجرود المفصّلة، فإن ضخامة الأرشيف تُلجئ الباحث إلى ابتداع الحيل كي يهتدي سريعًا إلى ما ينشده من وثائق.

الحل

فمن الباحثين من يعوّل على الصدفة، ومنهم من يضيف إليها تخمينات مدروسة يبنيها على التسلسل الزمني، والمرسَل إليهم، والمؤلفين، ومنشأ الرصيد الأرشيفي، واللغة، وما إلى ذلك. غير أن النظر إلى هذه المتغيرات كلها دفعةً واحدة قد يكشف في بنية الأرشيف عن أنماط لم تخطر ببال، فيصقل حدسنا. وقد علّمتني التجربة أن البيانات الوصفية التي يجمعها الباحث عادةً في جدول بيانات تصير، متى رُسمت بيانيًّا، عونًا كبيرًا على إدراك ما حوله في الأرشيف.

التجربة

تدور بحوثي الجارية حول مراسلات جاسوس من القرن السادس عشر، تفرّقت رسائله في مئات الـfilze: كُتبت بهويات شتى، إلى مرسَل إليهم مختلفين لا يُتوقع بعضهم، ومن أماكن متباعدة، وهلم جرًّا. ولكي أهتدي إلى الـfilze الأرجح احتواءً على الرسائل المنشودة، أعددت لوحة متابعة، وهي تطبيق ويب لتصوّر البيانات تفاعليًّا ( ) يربط بين شتى البيانات، ومنها المعلومات الجغرافية والزمنية، وبين مخطط هرمي ( ) للرصيد الأرشيفي. تطلعني اللوحة في لمحة على ما عُثر عليه حتى الآن، وعلى مقداره، وتعطيني فكرة تقريبية عن المواضع التي قد أجد فيها رسائل جديدة؛ فإذا نقرت على متغير بعينه، تجدّدت المخططات كلها لتُظهر ارتباطات محددة.

الخطوات التالية

ولعل الأهم من ذلك أن هذه اللوحة تصلح فهرسًا بصريًّا. فحين تُنشر الطبعة النقدية لهذه الرسائل على الشبكة، ستغدو اللوحة مدخلًا بديلًا يتصفح القراء منه البيانات. ولا يسعني في الوقت الراهن، لدواعي السرية، إلا أن أعرض لقطة شاشة محجوبة الأجزاء، على أن أطلق اللوحة كاملةً في العام المقبل؛ وفي انتظار ذلك سيتاح نموذج أولي عمّا قريب. فترقّبوا!

تصوّر الترميز الدلالي في المخطوطة BnF Ms. Fr. 640

Sun, 20 Dec 2020 18:15:00 +0000

نظرة عامة

تزخر الطبعات العلمية الغنية بالبيانات بتعليقات تحريرية نفيسة يمكن استخراجها وتحليلها وتصوّرها لشتى الأغراض العلمية. وتلك حال ، الصادرة عام 2020، التي تتيح تنزيل ملف بياناتها الوصفية من مستودعها على GitHub. أبيّن في هذه التدوينة كيف نجمع هذه المتغيرات كلها في مصفوفة ارتباط، ثم نصوّرها على أنحاء شتى.

البيانات

يولّد مشروع Making and Knowing جدول بيانات يحمل أحدث المعلومات عن محتويات المخطوطة: entry_metadata.csv. ويُستحضر الملف من الخاص بـMaking & Knowing. ويمكن بدل ذلك توليد ملفات .csv على المقاس، مع إضافة مزيد من الترميز، بفضل ، الأداة الممتازة التي أعدّها ماثيو كومار (Matthew Kumar)، وهي نسخة من المخطوطة BnF Ms. Fr. 640 بلغة Python.

إعداد Python

سنستعين بـPandas لمعالجة البيانات، وبـMatplotlib وseaborn للخرائط الحرارية، ثم بـNetworkX لبناء شبكات قائمة على الارتباط.
ولن نلجأ مع هذا الصنف من المتغيرات إلى طريقة بيرسون، بل إلى طريقة 𝜙𝐾. فاحرصوا على على طريقة الارتباط هذه وعلى مكتبتها PhiK.

#install packages
pip install phik

# import modules
import pandas as pd
import matplotlib.pyplot as plt
import seaborn as sns
import networkx as nx

تهيئة البيانات

لننزّل أولًا أحدث ملف للبيانات الوصفية للطبعة من مجلد metadata في . ثم ننتقي الأعمدة التي نحتاج إليها دون سواها. اخترت لهذا العرض جميع الوسوم الدلالية من الترجمة الإنجليزية tl، ولكم أن تختاروا وسوم النسخ الفرنسي tc أو النسخة المعيَّرة tcn. وتأتي البيانات قيمًا مفصولة بفواصل منقوطة، ونريد من Python أن يعدّها لنا؛ فنلجأ إلى طريقة stack-unstack مع التعبير النمطي [^;\s][^\;]*[^;\s]*. ولتغدو المصفوفة أيسر قراءة، نعيد تسمية الأعمدة. ولمن كان على عجلة أن يتخطى هذه الخطوة، على أن يتذكر أن إطار بياناتنا يحمل في هذه المرحلة اسم tagsrn.

# load the edition's metadata
df = pd.read_csv('entry_metadata.csv')

# select the tags you want to correlate
dftags = df[['al_tl', 'bp_tl', 'cn_tl', 'df_tl', 'env_tl', 'm_tl', 'md_tl', 'ms_tl', 'mu_tl', 'pa_tl', 'pl_tl', 'pn_tl', 'pro_tl', 'sn_tl', 'tl_tl', 'tmp_tl', 'wp_tl', 'de_tl', 'el_tl', 'it_tl', 'la_tl', 'oc_tl', 'po_tl']]

# count comma separated values
tagcount = dftags.stack(dropna=False).str.count(r'[^;\s][^\;]*[^;\s]*').unstack()

# rename columns
tagsrn = tagcount.rename(columns={'al_tl': 'animals', 'bp_tl': 'body parts', 'cn_tl': 'currency', 'df_tl': 'definitions', 'env_tl': 'environment', 'm_tl': 'material', 'md_tl': 'medical', 'ms_tl': 'measurement', 'mu_tl': 'music', 'pa_tl': 'plant', 'pl_tl': 'toponym', 'pn_tl': 'person', 'pro_tl': 'profession', 'sn_tl': 'sensory', 'tl_tl': 'tool', 'tmp_tl': 'temporal', 'wp_tl': 'weapons', 'de_tl': 'German', 'el_tl': 'Greek', 'it_tl': 'Italian', 'la_tl': 'Italian', 'oc_tl': 'Occitan', 'po_tl': 'Poitevin'})

حساب الارتباط

متى نظُف إطار البيانات، انتقلنا إلى حساب معاملات الارتباط بين كل متغيرين. والمهم في هذه المرحلة أن تفهموا بياناتكم وتتحققوا من أنكم تستعملون أنسب طرق الارتباط لها، وحزمة pandas-profiling نِعم العون على ذلك.

# calculate correlation coefficient with the phi k method
cortag = tagsrn.phik_matrix()

cortag هي مصفوفة الارتباط عندنا، وبوسعنا الآن أن نجرّب عليها ضروبًا شتى من التصوّر.

التصوّر

أول ما نجرّبه تصويرها مصفوفةً مرمّزة بالألوان، بـ من seaborn.

الخريطة الحرارية للارتباط

f, ax = plt.subplots(figsize=(16, 14))
ax = sns.heatmap(cortag, linewidths=.03, vmin=0, cmap="Oranges", square=True)

من كان على معرفة وثيقة بالنص أدرك للوهلة الأولى أن الخريطة الحرارية تنطق بالمعقول. فأسماء الأعلام، مثلًا، ترتبط ارتباطًا وثيقًا باللاتينية، إذ جرت العادة، لا سيما عند إنسانيّي القرن السادس عشر، على تلتينها.

وقد يقول قائل إن هذه الخريطة لا تزيد على تقرير البديهيات. وليس مثل هذا القائل مخطئًا كل الخطأ؛ فالوسوم الطبية تبدو للوهلة الأولى شاهدًا على قوله، إذ ترتبط كما هو متوقع بأعضاء الجسم والمقاييس والنباتات.

لكن من قرأ الخريطة بإمعان، سطرًا سطرًا، وقع على ارتباطات طريفة لم تكن في الحسبان. فارتباط الوسوم الطبية بالألفاظ الإيطالية واللاتينية، مثلًا، يلقي ضوءًا على منشأ الوصفات الطبية في المخطوطة Ms. Fr. 640. وكذلك يكشف الارتباط بين المهن والتعريفات والمقاييس عن مبلغ ما تشكّل به الهوية المهنية الخطاب التقني في القرن السادس عشر.

خريطة التجميع العنقودي للارتباط

الخرائط الحرارية نافعة في مقام «الاستكشاف»، لكنها قد تبدو لجمهوركم مشوّشة بعض الشيء، ولا سيما إن كنتم تناقشون — أو ما زلتم تبحثون عن — عناقيد دلالية بعينها في المخطوطة. وهنا قد تأتي وحدة clustermap في Seaborn بنتائج مثيرة.

clustermap = sns.clustermap(cortag, figsize=(12, 13), dendrogram_ratio=(.1, .2), vmin=0, cmap="Oranges", cbar_pos=(-.06, .12, .03, .68))

فضلًا عن شبهها بحشرة «مُبكسَلة» (نعم، الكلمة مثبتة في قاموس أكسفورد)، تفصل خريطة التجميع العنقودي فصلًا بيّنًا بين الوسوم المعزولة (في الأعلى وعلى اليسار) والوسوم الأوثق ترابطًا. ونميّز فيها كذلك عناقيد منعزلة، كالموسيقى واللهجة البواتفينية (من كان يظن!)، من عناقيد أدنى إلى المركز كالمقاييس والمواد والتعريفات والأسلحة. أما المهن فأشد ترابطًا، لكنها لا تنتمي، في مصفوفة الارتباط هذه على الأقل، إلى عنقود بعينه.

شبكة الارتباط

وإن أردنا اختزال ما في مصفوفتنا من ارتباطات اختزالًا أبلغ، فالرسوم الشبكية حل أنيق، ولا سيما حين يكون المقصود أن نعرّف الناس بمحتويات المخطوطة.
ولذلك لا بد أن نحوّل مصفوفتنا إلى قائمة من الحواف والعقد، وأن نضع عتبة تُقصي الارتباطات الأضعف عن الرسم.

# transform the data
links = cortag.stack().reset_index()
links.columns = ['var1', 'var2','value']

# threshold 
links_filtered = links.loc[(links['value'] > .6) & (links['var1'] != links['var2'])]
links_filtered

# create edges
G = nx.from_pandas_edgelist(links_filtered, 'var1', 'var2')

# draw network using Kamada & Kawai's algorithm 
plt.figure(3,figsize = (12,12))
nx.draw_kamada_kawai(G, with_labels = True, node_color = 'red', node_size = 400, edge_color = 'black', linewidths = 1, font_size = 14)

فإن كثرت الحواف والعقد فوق الحد، فبوسعكم تعديل العتبة لتحصلوا على نتيجة أنقى. وإلا فصدّروا الرسم لتعبثوا به في Gephi بالدالة .write_gexf().

nx.write_gexf(G, 'graph.gexf')

وترون الحصيلة في مستهل هذه التدوينة.

تحديث: شبكة موزونة دائرية

كنت أبحث عن سبل لعرض مصفوفات الارتباط شبكاتٍ موزونة، فوقعت على هذه المقاربة الطريفة التي ، وأطوّعها هنا لمجموعة بياناتنا.

# create graph weighted by correlation coefficients (unfiltered)
Gx = nx.from_pandas_edgelist(links, 'var1', 'var2', edge_attr=['value'])

# determine a threshold to remove some edges
threshold = 0.4

# list to store edges to remove
remove = []

# loop through edges in Gx and find correlations which are below the threshold
for var1, var2 in Gx.edges():
 corr = Gx[var1][var2]['value']
 #add to remove node list if abs(corr) < threshold
 if abs(corr) < threshold:
 remove.append((var1, var2))

# remove edges contained in the remove list
Gx.remove_edges_from(remove)

print(str(len(remove)) + ' edges removed')

وبعد أن نحذف بضع حواف، نحدد لون الباقي منها وسمكه.

# determine the colors of edges
def assign_colour(correlation):
 if correlation <= 0.8:
 return '#ff872c' # orange
 else:
 return '#f11d28' # red


def assign_thickness(correlation, benchmark_thickness=3, scaling_factor=3):
 return benchmark_thickness * abs(correlation)**scaling_factor


def assign_node_size(degree, scaling_factor=50):
 return degree * scaling_factor

ونمنح العقد كذلك حجمًا يتناسب مع عدد صلاتها.

# assign node size depending on number of connections (degree)
node_size = []
for key, value in dict(Gx.degree).items():
 node_size.append(assign_node_size(value))

والحصيلة رسم موزون يتسع لعقد أكثر وحواف أكثر بكثير، ويظل مع ذلك مقروءًا غنيًّا بالدلالة.