2023-07
27

PQ为什么不改进

By xrspook @ 8:26:19 归类于: 烂日记

上周开始我就在用Power Query跟Power Pivot做跨表的数据合并。与其说是数据合并,不如说是数据查询。一开始我用的是PQ,因为从感觉上来说好像 PQ做这个就够了,但当我把东西都做出来了以后发现PQ很多规则都非常奇怪。让我觉得要试一下PP到底怎么样。根本原因是明明数据量很少,但是PQ的运行效率却很低,而且运行效果很不稳定。从0-1生成PQ的过程比较挣扎,虽然整体的思路我都有,我知道我要有什么后效果。但是该如何实现还是花费了我不少时间,比如查询参数应该用什么格式的表格表达出来。一开始我把4个日期和3个文本以左右的方式表达。的确这样的取数没有什么问题。虽然实际上PQ是用列去进行各种魔法运算的,但要精确定位到某个单元格也就是某条记录一点问题都没有。后来当我要用PP,那个东西至今我不知道如何在某列混杂着各种内容的单元格里获取我需要的数据。要顺畅用起PP,我得把日期参数跟文本参数拆分为两个表格。文本参数我不是直接给PP用,而先给PQ,所以横的竖的都无所谓。日期参数是直接在PP里做限定,所以必须以PP的规格去设定表格的形式。这仅仅是参数的表达,是最简单的东西。如果以普通人的视角考虑,某一列数据日期和文本混搭一点问题都没有,但是从机器的角度考虑,从我使用的那两个软件的规范考虑,显然这样是不行的,又或者说不是不行,是你为什么非得以一种如此随意的方式去做这么简单的设定呢?混搭的方式,肯定也会得到你想要的结果,但是对软件新手来说,绕那么一大圈显然就比较费劲了。

用PQ和PP的方式做出来的两个查询都能实现我的目标。数据都是没有问题的,但是一个文件体积很大,一个查询时间很长,且查询效率忽高忽低不稳定。这两个都不是我想要的。我不过是想做一个查询而已,很简单的东西,实际上我就只需要一个结果。那个结果以我想要的方式输出,后续的格式化纯粹是让我自己觉得比较顺眼好看而已。但是这两个Microsoft 365内置的Power都不能达到我的预期目标。

在挣扎之前,我觉得应该用PQ实现目标,但实际上出来的效果跟我想象的相差挺远,最根本的原因是我实在不太理解PQ的数据处理。PQ是用来做数据清洗的,所以从某个大表里获取数据,然后进行各种筛选,接着以各种目标形式输出表格,理论上这是很简单的事情。这大表的查询几乎可以这么说,一定是引用外表,因为源数据已经很大,你不可能在上面直接运行,虽然其实一直以来我都是这么干的,但是那个时候我并没有进行跨表操作。从现在的运行效果看来,即便是同一个代表同一个源数据,最终需要以几种方式输出分组筛选后的结果,最终要生成多少个查询效果,我就得把那个源数据查询多少次。理论上怎么会干这么傻的事情呢?直接把大的源数据查询一次缓存起来,往后就不需要调用了。但问题是从我现在的观察看来。最终我要多少个查询结果,他们就同时开始查询多少遍,于是有些时候就会导致有些查询结果失败,你得刷新再来。原因是这个查询正在使用那个源数据,那个查询也在用那个源数据,为了抢那个源数据打架了,抢不赢那个就刷新失败。都是查询一个源数据,我考虑过既然无法避免它们一次又一次查询,那么我就把那几个查询按顺序来,完了一个再到下一个,但实际上这个也是无法控制的。都说VBA是单线程的,但是PQ是多线程的,单线程虽然慢,但是多线程这样打架,最终反而得不到我想要的效果。从理论上说,我把那个大表一开始就缓存起来,后面的都用内存缓存,这很正常啊。我设置查询的优先等级,先刷新一些,然后再刷新另外一些,这也很正常啊,为什么却没有一个很直接的实现方式呢?有些人想到要用VBA去控制PQ的刷新顺序,但是VBA却很难判定某个刷新是不是完毕了,VBA也很难做到这个刷新完毕了再开始下一个。

接下来我要试一下python方案,我的目标是查询时间小于10秒,生成的文件小于100K。

2023-06
24

速度提升

By xrspook @ 16:47:12 归类于: 烂日记

升级路由器到底有多爽?如果手机在恰当的位置连接的是路由器的5G信号,中国电信的测速网站显示下载会超过300M,上传会超过50M。这样的效果已经大于我那条线路理论上的下载200M上传30M。在测速的时候你会发现流量显示下载速度会超过26MB/s,上传速度会接近5MB/s。所以这就意味着如果在应用市场更新app,眼睛都还没反应过来,就已经下载完了。至于更新速度的快慢,可能跟手机的性能有很大的关系,比如如果我用红米Note 11 5G进行更新,下载很快,但是验证跟安装的过程很慢,基本上就卡在那里了,但如果我用的是小米 Civi 1S在用100M宽带的时候下载和安装,基本上是同时完成的,所以主要限制是下载速度,但是当我用200M宽带下载的时候,下载就是秒杀的,安装也会像红米Note 11 5G那样有点拖后腿,但是安装速度显然要比红米快很多。这大概就是无感安装吧。理论上就应该有这样的效果,但实际上绝大多数时候都做不到,尤其是当你的下载速只有不到1MB/s的时候。

在应用市场安装感觉好一些,毕竟每个app大的装包不过100多MB,小的那些可能就几MB而已,虽然可能如果你长期不更新,可能会堆积了几十个应用需要更新,但是那些东西安装挺快,但是如果你需要做一个手机系统的更新,需要下载个几个GB的大安装包,下载等待就很让人抓狂了。如果只是在一个小于1MB/s的小水管里干这种事,就意味着这台设备估计几个小时什么都不能干,只能在那里下载了,而且还会遇到一些突然网络中断,不下了,卡在那里。当你到一个信号好的地方继续,居然从0开始。所以如果是在单位更新系统,我只能找一个没有限速的地方蹭一下网。什么地方是没有限速的呢?网管所在的那个宿舍或者办公室!我不知道单位的宽带到底是多大的光纤,肯定的是从下载速度看来可能没有100M,又或者是理论上是100M,但不能全部放出所有速度。相对于其它地方,网管那里好像没限速,但实际上也是有限速的,否则他们那里的下载速度应该达到10MB/s以上,实际上绝大多数时候都不会超过10。在其它地方下载,速度只有不到1MB/s,在他们那里速度能达到10MB/s,也就是有10倍的提速度的提升,我必须只能在那里升级。当然了,我不会为了安装个应用更新就去蹭网。

以前我不知道网管他们有留给自己特权。因为一直以来我就住在网管宿舍的旁边,所以宿舍里我一直都没有接通自己的WiFi,直到有一天他搬走了,我接通了才发现原来限速是这么的可怜。我不知道单位到底是怎么想的,如果我决定的话,我觉得机房应该双线接入用不同运营商。两个都用上百兆光纤。这样的话,其中一条线挂掉的时候还有另外一条线当替补。现在我们那里用的是中国电信,如果再找另外一条线的话,也就只能是中国联通,但是东莞麻涌一个很偏僻的角落到底有没有中国联通呢?显然中国联通手机用户在那里基本上是啥都干不了的,因为几乎没有基站可言。在没有基站的前提下,到底他们有没有在那个地方布置光缆呢?这得打好大一个问号。所以能不能实现双运营商的双线接入除了商用的光纤价格一定很贵以外,还有就是那些运营商在那里到底有没有想过要搞业务。

换了个路由器网速提升明显,感觉好极了。

2022-07
19

贴牌的联想真可怕

By xrspook @ 9:01:58 归类于: 烂日记

联想台式机的BIOS我感觉真的是很烂,通常如果不是一个老掉牙的BIOS,会自动判断如果我的硬盘里没有系统,而我又插入了一个系统引导的U盘,就会用U盘启动,然后安装系统。但是联想就很奇怪,还记得上一次安装的时候我还可以连击F12直接进入BIOS,大概因为那个时候并不是电脑没有系统,而是因为我要重装系统。如果我手速不快,又或者不是按F12,会进入到各种各样奇奇怪怪的东西里面。而这一次,电脑的挂了两个盘,一个是空白的固态硬盘,另外一个是没有系统又或者说其实是有系统的,有联想OEM备份系统的机械硬盘,不知道为什么要把OEM系统备份到了那里的机械硬盘。如果我不狂按F12,会进入一个DOS的界面,不知道为什么会给我检查ipv4和ipv6。当我狂按F12,就进入了一个设置界面,在那里选择setup才能进入BIOS。

BIOS是全英文的,虽然你可以用鼠标操作,但问题是当你要选择某件东西的时候,你还必须按照下面那一堆快捷方式进行处理。否则的话狂点鼠标也没用,又或者你的鼠标能到那个地方,但是你根本点不中那个东西,更不用说无法保存。鼠标在那种设置界面感觉怪怪的,还不如用键盘双矿。上一次我记得在固态上重装一个windows系统,从win10家庭版变成win10专业,耗费了不少时间,而这一次用的是单位刚买的500G的新硬盘,英睿达的BM500。这次我把U盘插在了USB3.0的接口上,虽然那个可能不是3.0的U盘。这一次拷贝文件安装的速度很惊人,我以为要花不少时间,谁知上了个厕所回来,居然已经拷贝完毕电脑重启,因为我没有拔U盘,所以又进入了那个安装系统的界面。我只能把安装取消,然后把U盘拔掉,然后再进入BIOS,把启动顺序你的首位USB搞下去,把那个可能是固态硬盘的东西挪上去。

在这之前我并没有听说过英睿达这个牌子,就好像当我接触固态硬盘,觉得要买回来装win10系统的时候,我也不知道浦科特这个牌子。可以肯定的是,就系统安装速度而言,英睿达比那个联想自带的固态硬盘快太多了。装完系统以后,我甚至觉得每次关机启动又或者重启一次系统后速度会更快。装完系统后,我跑了一下分,英睿达这个500G的固态硬盘接近1100分,而我的三星500G固态硬盘得分和这个新的英睿达差不多。要知道我那个三星硬盘已经用了快两年了。有段时间因为下载比较疯狂,视频不够地方放,机械硬盘塞满了以后我只能塞固态硬盘里。所以有段时间固态液硬盘比较满载,在这次跑分之前,有些东西我已经删掉,因为我换了一个比较大的机械硬盘,所以我又把大部分的视频都挪走了。三星的硬盘用了两年以后,能和一个新的固态硬盘跑分差不多。这一点都不让我觉得惊讶,因为三星很稳定,所以他们卖的价格也很稳定。当我把那个联想的硬盘又重新插回电脑,进行格式化之前我又先跑了一下分。我那个去,只有500多分,得分只有三星和英睿达跑分的一半,所以也就可以理解单位2018年买的那批联想电脑为什么总有这样那样的问题,慢是肯定的,而且还会有不知道为什么会出现的卡机甚至蓝屏死机。

当我把那个联想的固态硬盘拆出来的时候,我简直震惊了。因为那个固态硬盘表面居然有一些撕不干净的贴纸。一个全新的固态硬盘,又怎么会在上面贴纸呢?如果真的贴了东西。只能说明那个盘可能本来就有点问题,所以被做了记号。不仅仅有撕不干净的贴纸,固态硬盘的一个边居然有点发霉生锈。我见过非常非常老的电脑,见过机箱外面插口生锈,但是。我从来没有见过主机内部主板上的零件又或者是硬盘会有这种状态。贴牌联想的东西真的是颠覆了我的三观。买一台死贵的联想电脑,还不如自己买最好的材料,组装自己的机子。

2022-07
7

kindle499 vs. kindle658

By xrspook @ 9:21:08 归类于: 烂日记

一直以来我都是kindle的忠实粉丝,从知道有墨水屏开始我的电子书都是用kindle看的。有可能是手机的app,也有可能是kindle设备。因为几年前买的那kindle499入门版个电池好像因为长期不充电有点问题,所以今年我又买了一个。虽然已经观察了好长一段时间,但是却一直等不到国行版,所以我只能买了个欧版。同样是入门版的kindle,新的那个内存更大、功能更多,但是最基本的功能我觉得还不如我自几年前买的那个国行版。比如说长期不用开机的时候,新的kindle会有一个唤醒中的界面,那个过程需要好几秒钟,但是旧版的就没有这个烦恼,任何时候打开盖子随时就可以继续阅读。另外一个我觉得差别很大的就是残影,因为旧的那个已经用了好几年,所以总感觉墨水的颜色有点淡,但还不至于不能看,只不过两个相比起来你会觉得颜色有点浅。开始用墨水屏的时候,我就听说过残影这个词,但实际上,在老kindle上,我几乎感觉不到,但是这个新的kindle,看着看着,正常翻页,而且纯粹只是文字,而且是在飞行模式下阅读,不知道什么时候就会出现残影。虽然这种东西并不影响阅读,那个感觉就好像书本的页面有一些噪点干扰。

曾经有一段时间,我在小米平板1上安装kindle app,阅读《摩诃婆罗多》。但不知道为什么看着看着就会卡住。那个时候也不能说是乱,情况就像是噪点的集合,在那个界面你退不出来,唯有重启才能解决问题。大概我用小米平板1开始看《摩诃婆罗多》的时候,小米平板1实际上已经是一个老年产品,所以即便我只是在脱机模式之下、用kindle看书,也说不准什么时候会卡住看不下去,或者是电量突然尿崩直接关机。

在买这个新的kindle之前,我研究了一大轮。跟我买旧的那个时候相比,现在墨水屏设备多了很多,但绝大多数都以安卓为底层系统。所以虽然看上去内存大了,缓存也大了,电池也好像很牛逼,但实际上从用户的反馈看来,续航能力跟kindle相比不是一个层次的,所以当我要再买一个墨水屏阅读器的时候,我依然选择kindle。但问题是当我买了那个东西几个月之后,kindle就官宣要退出中国市场。2023年之后就不可以在中国区购买电子书,2024年之后就再也没办法从他们的服务器那里把书本同步到各个终端。所以在那个之前。我们就得把自己的东西囤下来。光是囤下来还不行,你可以通过USB下载到电脑上,但是在下载之前会让你选择一个kindle设备,对我这种有两个kindle还有平板手机都安装了kindle app的人来说,如果下载回来的那个电子书只能在下载前选择的那个设备上导入使用,我有几个设备,岂不是要把电子书下载好几遍?这显然很逆天!而且还不仅仅是移动设备,电脑上也有kindle啊。为了不让这个问题成为问题,也就只有把下载回来的电子书去掉版权信息。如果kindle不跟我们说再见的话,我不会选择这条路,但现在我不得不这样。否则我花钱买过的电子书连我自己都不能看了,岂不是冤大头?我唯一能保证的只是我不会把这些东西发布出去,让别人免费得到。

大款即将倒下,我们这些傍大款的只能自寻出路。

2021-05
15

飞起来了

By xrspook @ 20:29:03 归类于: 烂日记

想都没想过,回到家里网友的某个美国云盘的下载速度能达到单位的10倍.之所以这样是因为单位限速了,470KB/s封顶,但是家里用的宽带满速是10MB/s的,但实际上如果单任务下载那个网盘一个任务封顶是1.5MB/s,如果多任务下载封顶是5MB/s,这就意味着如果我一个文件的大小是1.27GB的话。我用尽他们的单文件封顶,很快就下完一个,但我得不断的添加文件,与其这样,我不如一次性就丢很多进去,比如说一次性同时下载10个文件,大概下完一批文件需要40分钟。这样的时间就比较好安排,我可以增加完一批文件以后做别的事,然后过一段时间再回来再增加另一批文件进去。如果那个网盘的下载界面可以同时让我选择多个文件,我不需要一个一个点开,又或者要下载的话就整个文件夹下载的话,我的操作速度可以更快一些。那个文件夹的确是允许整个文件夹用zip打包下载,但是那样的话就过于变态了,那有144GB的东西在里面,其中有些我已经下载过了。为什么不能选择某个共享文件夹里的某几个文件文件同时下载呢?但话说回来,如果这样做的话,我把一个下载回来,最终我还得做一个解压缩的过程,虽然解压缩过程相比于一个一个文件打开新链接下载简单很多。

国内的网盘允许在一个文件夹里同时选定多任务开始下载,每个下载的文件都是原来的状态,没有被打包,为什么国外的这个网盘反而做不到这点呢?大概因为他们允许用文件夹方式分享出来以后就是打算你要不下载其中一些,要不你整个文件夹拉走,没想到你可能要同时下载里面好些零碎。我的网友把100多集的电视剧全部放在一个文件夹里了,如果他10集放一个文件夹,我下载会更方便,但是他放得就很郁闷,即便如果东西已经上传到数据库挪动文件没有什么难度。让别人帮我把东西扒回来已经很不容易了,还有这样那样的要求,显然就很过分,毕竟这个是他私人的付费网盘,价钱好像是一个月6美刀。

如果中国也有一个月6元的网盘,而且能保证别人的下载速度,我会整一个吗?好像我们这里还真的没有这么便宜的网盘。115网盘的价格是500元每年,度娘网盘要200多块,奶牛快传便宜的时候好像能有不到100块一年,但现在价格很贵了,要300多块钱。6每刀一个月如果要折算为人民币,36块钱也不便宜,但是在我们这里赚的人民币和他们在那里赚的美金实际上没差多少。所以这种消费实际上是不适合用做折算的,即便是折算也不是真的是汇率上的那个数。如果我要把我这边的资源分享给美国的那边,我应该用什么网盘呢?现在国内的分享很受限制。网盘的空间的确很大,但是基本都有分享限制,比如说限定次数,限定时间,也比如说必须得实名认证以后才能这么干。虽然实际上网盘在注册的时候几乎已经要求实名认证了,因为必须绑定手机号。但话说回来,他们那边需要我们给他们提供资源吗?除非是自行制作录制的各种创意性原稿和视频,否则如果只要是娱乐的东西,他们那边下载可能会更快、资源也会更多。

下载永远是一个收集控永远需要面对的事。

© 2004 - 2024 我的天 | Theme by xrspook | Power by WordPress