New issue
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
需求:增加收集持久化功能,解决耗时过长网页崩溃数据丢失问题。 #14
Comments
有没人弄,没人弄我想弄弄 |
@bxb100 我目前打算使用 IndexedDB 做持久化(类似本项目前身 export-twitter-following-list),不过这会涉及到一些底层变更,咱们可以交流下。如果你也有兴趣,欢迎一起完善! 主要的变更点:
因为目前所有数据都是塞在内存里的,所以直接全量前端分页处理分页展示就行了。如果改成 IDB 存储,就需要改造一下表格预览中的分页、搜索、排序方法。 |
@prinsss 我也是打算用 indexedDB 来做(刚学 =。= 所以没细看你说的 edge case),先开个分支做起来吧 |
可以试试我刚发的 1.2.0-alpha.1 测试版,新增支持了本地数据库持久化,现在即使刷新页面也不会丢失已抓取到的数据了。我自测下来加载 1000 条数据,内存占用没有明显波动。 不过表格预览界面的分页还没时间做,点击预览按钮后会吃一波内存……应该不至于会崩溃,如果有问题继续反馈吧。 |
从你这图中的报错看,有可能是另外的问题。可以参考一下 #1 中的排查方法,提供具体的错误日志方便定位问题。 |
收到收到,我试试哈。 |
尝试了新版,很神奇的是直接读取还是会卡在1000左右,于是想开着控制台看是哪里出错,结果顺顺利利划完了3k+,再次感谢! |
哈哈哈😂,那你有时间可以试试开着控制台刷 1000 条,看看还会不会报错。如果这是一个共性问题,那我可以一起修复掉,如果不能复现那就算啦。 |
你好,书签收藏推文过多时,容易出现网页崩溃问题,这样会浪费大量的时间及重复操作,希望可以增加持续收集或者间接保存功能来规避这个问题,使得在使用时能够更高效。非常感谢您开发这个这么有帮助的插件,祝一切都好。
问题截图:
不知道数据达到多少条会奔溃,测试过一般在1000条后,网页奔溃后网页刷新又会回到第一条,出现这个后人也会很奔溃,哈哈哈。真的很想一次性就把书签导出干净,辛苦你啦,谢谢!
The text was updated successfully, but these errors were encountered: