Sa 2016, namulong sa World Economic Forum sa Davos, ang presidente niini, si Klaus Martin Schwab, naghisgot bahin sa "Ikaupat nga Industrial Revolution": usa ka bag-ong panahon sa total nga automation nga nagmugna og kompetisyon tali sa tawhanong paniktik ug artipisyal nga paniktik. Kini nga pakigpulong (maingon man ang libro nga parehas nga ngalan) giisip nga usa ka pagbag-o sa pag-uswag sa bag-ong mga teknolohiya. Daghang mga nasud ang kinahanglan nga mopili kung unsang dalan ang ilang agian: ang prayoridad sa teknolohiya kaysa indibidwal nga mga katungod ug kagawasan, o vice versa? Busa ang teknolohikal nga pagbag-o nahimong usa ka sosyal ug politikal.
Unsa pa ang gisulti ni Schwab, ug nganong importante kaayo kini?
Ang rebolusyon magbag-o sa balanse sa gahum tali sa mga tawo ug mga makina: ang artificial intelligence (AI) ug mga robot makahimo og bag-ong mga propesyon, apan makapatay usab sa mga daan. Kining tanan moresulta sa dili pagkakapareho sa katilingban ug uban pang mga kaguliyang sa katilingban.
Ang mga digital nga teknolohiya maghatag ug dakong bintaha niadtong mopusta niini sa tukmang panahon: mga imbentor, mga shareholder ug mga tigpamuhunan sa negosyo. Ang sama nga magamit sa mga estado.
Sa lumba alang sa global nga pagpangulo karon, bisan kinsa ang adunay labing daghang impluwensya sa natad sa artificial intelligence ang makadaog. Ang global nga ganansya gikan sa paggamit sa teknolohiya sa AI sa sunod nga lima ka tuig gibanabana nga $ 16 trilyon, ug bAng pinakadako nga bahin maadto sa US ug China.
Sa iyang libro nga "The Superpowers of Artificial Intelligence", ang Chinese IT expert nga si Kai-Fu Lee nagsulat mahitungod sa pakigbisog tali sa China ug Estados Unidos sa natad sa teknolohiya, sa Silicon Valley phenomenon, ug sa dakong kalainan tali sa duha ka nasud.
USA ug China: lumba sa armas
USA gikonsiderar nga usa sa labing naugmad nga mga nasud sa natad sa artificial intelligence. Ang mga higante sa kalibutan nga nakabase sa Silicon Valley - sama sa Google, Apple, Facebook o Microsoft - naghatag ug dakong pagtagad niini nga mga kalamboan. Daghang mga startup ang miapil kanila.
Sa 2019, gisugo ni Donald Trump ang paghimo sa American AI Initiative. Naglihok kini sa lima ka mga lugar:
Ang Departamento sa Depensa sa AI Strategy naghisgot bahin sa paggamit niini nga mga teknolohiya alang sa mga panginahanglanon sa militar ug cybersecurity. Sa parehas nga oras, kaniadtong 2019, giila sa Estados Unidos ang pagkalabaw sa China sa pipila nga mga timailhan nga may kalabotan sa panukiduki sa AI.
Sa 2019, ang gobyerno sa US naggahin ug mga $1 bilyon para sa panukiduki sa natad sa artificial intelligence. Bisan pa, sa 2020, 4% ra sa mga CEO sa US ang nagplano nga ipatuman ang teknolohiya sa AI, kung itandi sa 20% sa 2019. Nagtuo sila nga ang posible nga mga peligro sa teknolohiya labi ka taas kaysa sa mga kapabilidad niini.
China tumong nga maapsan ang US sa artificial intelligence ug uban pang teknolohiya. Ang punto sa pagsugod mahimong makonsiderar nga 2017, kung ang National Strategy for the Development of AI Technologies nagpakita. Sumala niini, sa 2020, ang China kinahanglan nga nasakpan ang mga lider sa kalibutan sa kini nga natad, ug ang kinatibuk-ang merkado sa AI sa nasud kinahanglan nga molapas sa $ 22 bilyon. Nagplano sila nga mamuhunan og $700 bilyon sa intelihente nga paggama, tambal, lungsod, agrikultura ug depensa.
Ang lider sa China, si Xi Jinping, nagtan-aw sa AI isip "ang nagpalihok sa likod sa teknolohikal nga rebolusyon" ug pagtubo sa ekonomiya. Ang kanhi presidente sa Intsik nga Google nga si Li Kaifu nagpasidungog niini sa kamatuoran nga ang AlphaGo (ang pagpalambo sa ulohang buhatan sa Google) mipildi sa Chinese go game champion nga si Ke Jie. Kini nahimong usa ka teknolohikal nga hagit alang sa China.
Ang nag-unang butang diin ang nasud ubos sa Estados Unidos ug uban pang mga lider hangtod karon mao ang sukaranan nga panukiduki sa teoretikal, ang pag-uswag sa mga batakang algorithm ug mga chip nga gibase sa AI. Aron mabuntog kini, ang China aktibo nga nanghulam sa labing kaayo nga mga teknolohiya ug mga espesyalista gikan sa merkado sa kalibutan, samtang wala gitugotan ang mga langyaw nga kompanya nga makigkompetensya sa mga Intsik sa sulod.
Sa parehas nga oras, taliwala sa tanan nga mga kompanya sa natad sa AI, ang labing kaayo gipili sa daghang mga yugto ug gipasiugda sa mga lider sa industriya. Ang susamang paagi gigamit na sa industriya sa telekomunikasyon. Sa 2019, ang una nga pilot zone alang sa kabag-ohan ug ang aplikasyon sa artipisyal nga paniktik nagsugod sa pagtukod sa Shanghai.
Sa 2020, ang gobyerno misaad ug laing $1,4 trilyon alang sa 5G, AI ug self-driving nga mga sakyanan. Nagpusta sila sa pinakadako nga provider sa cloud computing ug data analysis - Alibaba Group Holding ug Tencent Holdings.
Ang Baidu, ang "Chinese Google" nga adunay hangtod sa 99% nga katukma sa pag-ila sa nawong, ang mga startup nga iFlytek ug Nawong ang labing malampuson. Ang merkado alang sa Chinese microcircuits sa usa ka tuig lamang - gikan sa 2018 ngadto sa 2019 - mitubo sa 50%: ngadto sa $ 1,73 bilyon.
Atubangan sa giyera sa pamatigayon ug nagkagrabe nga relasyong diplomatiko sa Estados Unidos, gipausbaw sa China ang paghiusa sa mga proyektong sibil ug militar sa natad sa AI. Ang nag-unang tumong dili lamang sa teknolohiya, apan usab sa geopolitical superyoridad sa Estados Unidos.
Bisan pa nga ang China nakahimo sa pag-apas sa Estados Unidos sa mga termino sa walay kinutuban nga pag-access sa dako ug personal nga datos, nagpabilin gihapon kini sa luyo sa natad sa mga solusyon sa teknolohiya, panukiduki ug kagamitan. Sa samang higayon, ang mga Intsik nagpatik ug mas daghang gisitar nga mga artikulo sa AI.
Apan aron mapalambo ang mga proyekto sa AI, kinahanglan dili lamang mga kapanguhaan ug suporta sa estado. Ang walay kinutuban nga pag-access sa dagkong datos gikinahanglan: kini sila ang naghatag og basehan alang sa panukiduki ug kalamboan, ingon man ang pagbansay sa mga robot, algorithm ug neural network.
Daghang datos ug kagawasan sa sibil: unsa ang presyo sa pag-uswag?
Ang dagkong datos sa US giseryoso usab ug nagtuo sa potensyal niini alang sa pag-uswag sa ekonomiya. Bisan sa ilalum ni Obama, ang gobyerno naglunsad og unom ka federal nga dagkong mga programa sa datos nga nagkantidad og $200 milyon.
Bisan pa, sa pagpanalipod sa dako ug personal nga datos, ang tanan dili kaayo yano dinhi. Ang pagbag-o nga punto mao ang mga panghitabo sa Septyembre 11, 2011. Gituohan nga niadto ang estado naghatag sa mga espesyal nga serbisyo nga walay kutub nga pag-access sa personal nga datos sa mga lungsuranon niini.
Sa 2007, ang Balaod sa Pagbatok sa Terorismo gisagop. Ug gikan sa samang tuig, ang PRISM nagpakita sa paglabay sa FBI ug sa CIA - usa sa labing abante nga mga serbisyo nga nagkolekta sa personal nga datos mahitungod sa tanang tiggamit sa mga social network, ingon man sa Microsoft, Google, Apple, Yahoo nga mga serbisyo, ug bisan sa telepono. mga rekord. Mahitungod niini nga base nga gisulti ni Edward Snowden, nga nagtrabaho kaniadto sa team sa proyekto.
Gawas pa sa mga panag-istoryahanay ug mga mensahe sa mga chat, email, ang programa nagkolekta ug nagtipig sa datos sa geolocation, kasaysayan sa browser. Ang ingon nga datos sa US dili kaayo protektado kaysa sa personal nga datos. Ang tanan nga kini nga datos gikolekta ug gigamit sa parehas nga mga higante sa IT gikan sa Silicon Valley.
Sa samang higayon, wala gihapoy usa ka pakete sa mga balaod ug mga lakang nga nagkontrol sa paggamit sa dagkong datos. Ang tanan gibase sa palisiya sa pagkapribado sa matag partikular nga kompanya ug pormal nga obligasyon sa pagpanalipod sa datos ug pag-anonymize sa mga tiggamit. Dugang pa, ang matag estado adunay kaugalingon nga mga lagda ug balaod bahin niini.
Ang ubang mga estado naningkamot gihapon sa pagpanalipod sa datos sa ilang mga lungsuranon, labing menos gikan sa mga korporasyon. Ang California adunay labing higpit nga balaod sa pagpanalipod sa datos sa nasud sukad sa 2020. Sumala niini, ang mga tiggamit sa Internet adunay katungod nga mahibal-an kung unsang mga kasayuran ang nakolekta sa mga kompanya bahin kanila, kung giunsa ug ngano nga gigamit nila kini. Ang bisan kinsa nga tiggamit mahimong mohangyo nga kini tangtangon o nga ang pagkolekta idili. Usa ka tuig ang milabay, gidili usab niini ang paggamit sa pag-ila sa nawong sa trabaho sa pulisya ug mga espesyal nga serbisyo.
Ang data anonymization usa ka popular nga himan nga gigamit sa mga kompanya sa Amerika: kung ang data dili mailhan, ug imposible nga mailhan ang usa ka piho nga tawo gikan niini. Bisan pa, kini nagbukas sa daghang mga oportunidad alang sa mga kompanya sa pagkolekta, pag-analisar ug pag-aplay sa datos alang sa komersyal nga katuyoan. Sa samang higayon, ang mga kinahanglanon sa kompidensyal dili na magamit ngadto kanila. Ang ingon nga datos libre nga gibaligya pinaagi sa mga espesyal nga pagbinayloay ug indibidwal nga mga broker.
Pinaagi sa pagduso sa mga balaod aron mapanalipdan batok sa pagkolekta ug pagbaligya sa datos sa pederal nga lebel, ang Amerika mahimong mag-atubang sa teknikal nga mga problema nga, sa pagkatinuod, makaapekto kanatong tanan. Busa, mahimo nimong i-off ang pagsubay sa lokasyon sa imong telepono ug sa mga app, apan komosta ang mga satellite nga nagsibya niini nga datos? Karon adunay mga 800 kanila sa orbit, ug imposible nga mapalong sila: niining paagiha kita mabiyaan nga walay Internet, komunikasyon ug importante nga datos - lakip ang mga hulagway sa umaabot nga mga bagyo ug mga bagyo.
Sa China, ang Cyber Security Law gipatuman sukad sa 2017. Kini, sa usa ka bahin, nagdili sa mga kompanya sa Internet sa pagkolekta ug pagbaligya sa impormasyon mahitungod sa mga tiggamit sa ilang pagtugot. Sa 2018, gipagawas pa nila ang usa ka detalye sa pagpanalipod sa personal nga datos, nga giisip nga usa sa labing duol sa European GDPR. Bisan pa, ang espesipikasyon usa lamang ka hugpong sa mga lagda, dili usa ka balaod, ug wala magtugot sa mga lungsuranon sa pagpanalipod sa ilang mga katungod sa korte.
Sa laing bahin, ang balaod nagkinahanglan sa mga mobile operator, Internet service providers ug estratehikong negosyo sa pagtipig sa bahin sa datos sulod sa nasud ug ibalhin kini ngadto sa mga awtoridad kon hangyoon. Adunay susama sa atong nasud nga naglatid sa gitawag nga "Spring Law". Sa samang higayon, ang mga awtoridad sa superbisor adunay access sa bisan unsang personal nga impormasyon: mga tawag, mga sulat, mga chat, kasaysayan sa browser, geolocation.
Sa kinatibuk-an, adunay labaw pa sa 200 nga mga balaod ug regulasyon sa China bahin sa pagpanalipod sa personal nga impormasyon. Sukad sa 2019, ang tanan nga sikat nga smartphone apps gisusi ug gibabagan kung nakolekta nila ang datos sa tiggamit nga nakalapas sa balaod. Kadtong mga serbisyo nga nagporma sa usa ka feed sa mga post o nagpakita sa mga ad base sa mga gusto sa user nahulog usab sa ilawom sa sakup. Aron limitahan ang pag-access sa impormasyon sa network kutob sa mahimo, ang nasud adunay "Golden Shield" nga nagsala sa trapiko sa Internet sumala sa mga balaod.
Sukad sa 2019, ang China nagsugod sa pagbiya sa mga langyaw nga kompyuter ug software. Sukad sa 2020, ang mga kompanya sa China kinahanglan nga mobalhin sa cloud computing, ingon man maghatag detalyado nga mga taho sa epekto sa mga kagamitan sa IT sa nasudnon nga seguridad. Kining tanan batok sa backdrop sa usa ka trade war sa Estados Unidos, nga nagkuwestiyon sa kaluwasan sa 5G equipment gikan sa Chinese suppliers.
Ang ingon nga palisiya hinungdan sa pagsalikway sa komunidad sa kalibutan. Ang FBI nag-ingon nga ang pagpadala sa datos pinaagi sa mga server sa China dili luwas: kini ma-access sa mga lokal nga ahensya sa paniktik. Human niya gipahayag kabalaka ug internasyonal nga mga korporasyon, lakip na ang Apple.
Ang organisasyon sa tawhanong katungod sa kalibotan nga Human Rights Watch nagpunting nga ang China nagtukod ug “usa ka network sa kinatibuk-ang electronic surveillance sa estado ug usa ka sopistikado nga sistema sa pagsensor sa Internet.” 25 ka membro sa UN ang miuyon kanila.
Ang labing katingad-an nga pananglitan mao ang Xinjiang, diin gibantayan sa estado ang 13 milyon nga Uighurs, usa ka minorya sa Muslim. Ang pag-ila sa nawong, pagsubay sa tanan nga mga lihok, mga panag-istoryahanay, mga sulat ug mga pagpugong gigamit. Gisaway usab ang "social credit" nga sistema: kung ang pag-access sa lainlaing mga serbisyo ug bisan ang mga pagbiyahe sa gawas sa nasud magamit lamang sa mga adunay igo nga rating sa kasaligan - gikan sa punto sa panan-aw sa mga serbisyo sibil.
Adunay uban nga mga pananglitan: kung ang mga estado nagkauyon sa managsama nga mga lagda nga kinahanglan manalipod sa personal nga kagawasan ug kompetisyon kutob sa mahimo. Apan dinhi, ingon sa ilang giingon, adunay mga nuances.
Giunsa pagbag-o sa GDPR sa Europe ang paagi sa pagkolekta ug pagtipig sa datos sa kalibutan
Sukad sa 2018, gisagop sa European Union ang GDPR - ang General Data Protection Regulation. Gikontrol niini ang tanan nga may kalabutan sa pagkolekta, pagtipig ug paggamit sa datos sa online nga tiggamit. Sa dihang gipatuman ang balaod usa ka tuig na ang milabay, gikonsiderar kini nga pinakalisud nga sistema sa kalibutan sa pagpanalipod sa online privacy sa mga tawo.
Ang balaod naglista sa unom ka ligal nga sukaranan alang sa pagkolekta ug pagproseso sa datos gikan sa mga tiggamit sa Internet: pananglitan, personal nga pagtugot, legal nga obligasyon, ug hinungdanon nga mga interes. Adunay usab walo ka sukaranan nga mga katungod alang sa matag tiggamit sa mga serbisyo sa Internet, lakip ang katungod nga mahibal-an bahin sa pagkolekta sa datos, pagkorihir o pagtangtang sa datos bahin sa imong kaugalingon.
Ang mga kompanya kinahanglan nga mangolekta ug magtipig sa labing gamay nga kantidad sa datos nga kinahanglan nila aron mahatagan mga serbisyo. Pananglitan, ang usa ka online nga tindahan dili kinahanglan nga mangutana kanimo bahin sa imong mga opinyon sa politika aron makahatag usa ka produkto.
Ang tanan nga personal nga datos kinahanglan nga luwas nga mapanalipdan sumala sa mga sumbanan sa balaod alang sa matag klase sa kalihokan. Dugang pa, ang personal nga datos dinhi nagpasabot, lakip sa ubang mga butang, impormasyon sa lokasyon, etnisidad, relihiyosong pagtuo, cookies sa browser.
Ang laing lisud nga kinahanglanon mao ang pagdala sa datos gikan sa usa ka serbisyo ngadto sa lain: pananglitan, ang Facebook mahimong ibalhin ang imong mga litrato ngadto sa Google Photos. Dili tanan nga mga kompanya ang makahimo niini nga kapilian.
Bisan kung ang GDPR gisagop sa Europe, kini magamit sa tanan nga mga kompanya nga naglihok sa sulod sa EU. Ang GDPR magamit sa bisan kinsa nga nagproseso sa personal nga datos sa mga lungsuranon o residente sa EU o nagtanyag mga butang o serbisyo sa kanila.
Gibuhat aron mapanalipdan, alang sa industriya sa IT, ang balaod nahimo nga labing dili maayo nga sangputanan. Sa unang tuig lamang, ang European Commission nagpamulta og labaw sa 90 ka kompanya nga nagkantidad ug kapin sa €56 milyon. Dugang pa, ang pinakataas nga multa mahimong moabot hangtod sa €20 milyon.
Daghang mga korporasyon ang nag-atubang sa mga pagdili nga nakamugna og grabe nga mga babag alang sa ilang pag-uswag sa Europe. Lakip niini ang Facebook, ingon man ang British Airways ug ang Marriott hotel chain. Apan una sa tanan, ang balaod naigo sa gagmay ug medium-kadako nga mga negosyo: kinahanglan nilang i-adjust ang tanan nilang mga produkto ug internal nga proseso sa mga lagda niini.
Ang GDPR nakamugna og tibuok industriya: mga law firm ug consulting firm nga nagtabang sa pagpahiuyon sa software ug online nga serbisyo sa balaod. Ang mga analogue niini nagsugod sa pagpakita sa ubang mga rehiyon: South Korea, Japan, Africa, Latin America, Australia, New Zealand ug Canada. Ang dokumento adunay dako nga impluwensya sa lehislasyon sa Estados Unidos, atong nasud ug China niining dapita.
Mahimong makuha sa usa ang impresyon nga ang internasyonal nga praktis sa pag-aplay ug pagpanalipod sa mga teknolohiya sa natad sa dagkong datos ug AI naglangkob sa pipila ka mga sobra: kinatibuk-ang pagbantay o pagpit-os sa mga kompanya sa IT, pagkadili-malapason sa personal nga impormasyon o hingpit nga pagkawalay depensa atubangan sa estado ug mga korporasyon. Dili eksakto: adunay maayo usab nga mga pananglitan.
AI ug dagkong datos sa serbisyo sa Interpol
Ang International Criminal Police Organization - Interpol sa mubo - usa sa labing impluwensyal sa kalibutan. Naglakip kini sa 192 ka mga nasud. Usa sa mga nag-unang tahas sa organisasyon mao ang pag-compile sa mga database nga makatabang sa mga ahensya sa pagpatuman sa balaod sa tibuok kalibutan sa pagpugong ug pag-imbestigar sa krimen.
Ang Interpol adunay 18 nga internasyonal nga mga base nga magamit: bahin sa mga terorista, peligro nga mga kriminal, hinagiban, kinawat nga mga buhat sa arte ug mga dokumento. Kini nga datos gikolekta gikan sa minilyon nga lain-laing mga tinubdan. Pananglitan, ang global digital library nga Dial-Doc nagtugot kanimo sa pag-ila sa mga kinawat nga dokumento, ug ang sistema sa Edison - peke.
Ang usa ka advanced nga sistema sa pag-ila sa nawong gigamit aron masubay ang mga lihok sa mga kriminal ug mga suspetsado. Nahiusa kini sa mga database nga nagtipig sa mga litrato ug uban pang personal nga datos gikan sa kapin sa 160 ka mga nasud. Gidugangan kini sa usa ka espesyal nga biometric nga aplikasyon nga nagtandi sa mga porma ug proporsyon sa nawong aron ang panagsama tukma kutob sa mahimo.
Ang sistema sa pag-ila usab nakamatikod sa ubang mga hinungdan nga nagbag-o sa nawong ug nagpalisud sa pag-ila niini: suga, pagkatigulang, make-up ug make-up, plastic surgery, mga epekto sa alkoholismo ug pagkaadik sa droga. Aron malikayan ang mga kasaypanan, ang mga resulta sa pagpangita sa sistema gisusi nga mano-mano.
Ang sistema gipaila kaniadtong 2016, ug karon ang Interpol aktibo nga nagtrabaho aron mapaayo kini. Ang International Identification Symposium gihimo matag duha ka tuig, ug ang Face Expert working group nagbinayloay og kasinatian tali sa mga nasud kaduha sa usa ka tuig. Ang laing maayong kalamboan mao ang voice recognition system.
Ang United Nations International Research Institute (UNICRI) ug ang Center for Artificial Intelligence and Robotics maoy responsable sa pinakabag-o nga mga teknolohiya sa natad sa internasyonal nga seguridad. Gibuhat sa Singapore ang pinakadako nga internasyonal nga sentro sa pagbag-o sa Interpol. Lakip sa iyang mga kalamboan mao ang usa ka robot sa pulisya nga nagtabang sa mga tawo sa kadalanan, ingon man ang AI ug dagkong mga teknolohiya sa datos nga makatabang sa pagtagna ug pagpugong sa krimen.
Unsa pa ang gigamit nga dagkong datos sa mga serbisyo sa gobyerno:
NADRA (Pakistan) – usa ka database sa multi-biometric data sa mga lungsoranon, nga gigamit alang sa epektibo nga sosyal nga suporta, buhis ug kontrol sa utlanan.
Ang Social Security Administration (SSA) sa US naggamit sa dagkong datos aron mas tukma nga maproseso ang mga pag-angkon sa disability ug maputol ang mga mangingilad.
Gigamit sa Departamento sa Edukasyon sa US ang mga sistema sa pag-ila sa teksto aron maproseso ang mga dokumento sa regulasyon ug masubay ang mga pagbag-o niini.
Ang FluView usa ka sistema sa Amerika alang sa pagsubay ug pagkontrol sa mga epidemya sa trangkaso.
Sa tinuud, ang dagkong datos ug artificial intelligence makatabang kanamo sa daghang mga lugar. Gitukod sila sa mga serbisyo sa online sama sa mga nagpahibalo kanimo sa mga paghuot sa trapiko o mga tawo. Sa tabang sa dagkong datos ug AI sa medisina, nagpahigayon sila og panukiduki, nagmugna og mga tambal ug mga protocol sa pagtambal. Nagtabang sila sa pag-organisar sa palibot sa kasyudaran ug transportasyon aron komportable ang tanan. Sa nasyonal nga sukod, makatabang sila sa pagpalambo sa ekonomiya, sosyal nga mga proyekto ug teknikal nga mga inobasyon.
Mao nga ang pangutana kung giunsa ang daghang datos nga nakolekta ug gipadapat, ingon man ang mga algorithm sa AI nga nagtrabaho niini, hinungdanon kaayo. Sa parehas nga oras, ang labing hinungdanon nga internasyonal nga mga dokumento nga nag-regulate sa kini nga lugar bag-o lang gisagop - sa 2018-19. Wala pa'y klaro nga solusyon sa panguna nga problema nga may kalabotan sa paggamit sa dagkong datos alang sa seguridad. Kung, sa usa ka bahin, ang transparency sa tanan nga mga desisyon sa korte ug mga aksyon sa pag-imbestiga, ug sa laing bahin, ang pagpanalipod sa personal nga datos ug bisan unsang kasayuran nga makadaot sa usa ka tawo kung gipatik. Busa, ang matag estado (o unyon sa mga estado) nagdesisyon alang sa iyang kaugalingon niini nga isyu sa kaugalingon nga paagi. Ug kini nga pagpili, kasagaran, nagtino sa tibuuk nga politika ug ekonomiya sa umaabot nga mga dekada.
Mag-subscribe sa channel sa Trends Telegram ug magpadayon hangtod sa karon nga mga uso ug mga panagna bahin sa kaugmaon sa teknolohiya, ekonomiya, edukasyon ug kabag-ohan.