你好,
我正在编写一个下载Sentinal-1 sar geotiff的工作台,重新计划,让它看起来正确,然后在上面叠加一些向量。输入文件的大小非常大,但大约是千兆字节,我希望我的输出大约是5MB。
目前,它在Mapnik Rasterizer失败,因为“分配不好”,我的研究告诉我,这通常与内存不足有关。
是否有一种方法可以在过程开始时通过光栅进行压缩,从而使其更快且更不容易失败?
FeatureWriter在所有功能都被写入时将其释放到输出端口。拥有大量功能会占用内存。
对于某些格式,这是正常的。但是也有一些格式(例如数据库),其中特性是一个接一个地编写的,或者是分组编写的。从这些编写器中释放特性将使FeatureWriter不阻塞,并可能减少内存使用。摘要端口仍然可以像统计计算器的累积端口和摘要端口那样在末尾释放。
你好,
我有一个工作区,在这个工作区中,我使用PostgisReader从数据库中获取大量数据。然后我尝试根据fanuexpression将其保存到不同的文件,如:output\@value(myattribute).gml
在数据库中,我有20GB的数据,所以在某个时刻,我会得到内存不足的异常。
我的想法是首先使用FeatureReader只读myattribute,然后使用DuplicateFilter,然后将FeatureReader与where语句一起使用:myattribute=@value(myattribute)
但结果只有在读取所有数据时才会保存到文件中,所以我得到相同的结果:“内存不足异常”。
有没有办法:
首先从给定的表中读取所有唯一的myattribute,然后关闭连接(因为连接超时也可能是一个问题)
接下来,对于每个唯一的myattribute值,从给定的表中读取数据并逐个保存到单独的文件中?这样我就不会有内存不足或连接超时的异常。
谢谢你的提示!
嗨,大家好,
这里是FME的新手。我们希望将FME安装到虚拟服务器(VX Rail平台)上,单引擎,快速安装。
从短期到中期,我们将适度地使用FME,但是我们计划运行的一些工作将是资源密集型的(例如,从gml到.shp的90 GB文件转换,每季度一次)。
我们建议的设置是,带1个VCPU的单服务器,用于OS和FME服务器安装的100 GB磁盘空间,1TB用于数据库存储库和任何其他东西,如草稿空间,寻呼等。此外,我们还考虑使用32或64 GB的RAM。
你对这个提议的配置有什么看法?看看其他的帖子,人们使用的RAM要少得多,所以我想知道这是不是太致命了,或者说它真的是明智的?
磁盘空间与整体性能有多大关系?500GB是否足以存储临时存储和数据库?
会感激你的想法的!
我们有一些占用内存的工作区,希望通过引擎设置内存限制,以便确保其他较轻的任务顺利运行。
我正在使用64位的FME桌面(v 2017.1.2.1),并尝试将一个大的csv文件(大约1GB和6000万条记录)读取到PostgreSQL数据库表中,而不涉及几何结构。我使用的唯一变形金刚是一个属性映射器和两个表达式评估器,用于从英里/小时计算公里/小时和米/秒(见下文)。
我的问题是,运行工作台会消耗虚拟机上可用的大部分8GB RAM,这似乎是由于csv阅读器在第一个转换器(attributeranamer)之前读取了所有记录。我在工作台上运行了一整夜,由于一个FME应用程序崩溃,它失败了大约。处理了5200万条记录,我假设这与内存有关,因为日志的最后几行是:
2018-03-03 01:20:55_17816.4_1.0_statrp_attributerenamer(attrsetfactory):处理了59977315个功能中的52421236个
2018-03-03 01:20:56 17818.1 2.8 Statrp ResourceManager:优化内存使用。请等待…
2018-03-03 01:20:56 17818.1 2.8通知资源管理器:优化内存使用。请等待…
2018-03-05 12:11:39 17818.2 0.1警告警告:并非所有创建的失效模式与后果分析会话都在关闭前被销毁。这可能导致不稳定
2018-03-05 12:11:39 17818.2 0.0警告警告:并非所有登记在册物品在关闭前都被丢弃。这可能导致不稳定
我的问题是,为什么FME使用了这么多从文件中读取的内存?
我没有使用任何组级的变压器,通常需要将所有功能保存在内存中,所以这些记录当然可以从csv中读取,按顺序处理和处置,用很少的记忆?
尽管文件很大,我希望FME能处理得更好。
干杯
约翰
我只为这个调度程序作业得到这个错误。其他工作都可以。
内存不足-错误代码为2-请阅读故障模式与影响分析帮助部分“调整内存资源”了解解决方法。
在/temp文件夹中没有太多要清理的内容。我怎样才能让这个工作运行?
当我试图将大量数据从工作台写入SDE中版本化特性类的默认版本时,我总是会遇到这个错误:
我现在在镶嵌600个geotiff,这相当于400毫巴。每当作者完成80%-90%的任务时,我会得到以下错误:
致命可用内存不足-错误代码为2-请阅读故障模式与影响分析帮助部分“调整内存资源”以了解解决方法。
内存不足。程序终止。请阅读FME帮助部分“调整内存资源”了解解决方法。
我在同一个工作台上运行了其他几个带有geotiff的马赛克,但数量较少(介于150MB-350MB之间),而且没有问题。较小的马赛克似乎也以更快的速度完成。任何超过350/400兆字节的数据都会使程序崩溃。
我有FME 2017.1(64位)。我有8GB的内存。
非常感谢您的帮助!!geotiffmosaiclogfile.zip文件
一些进程由于内存不足而失败,尤其是在32位系统上工作时。以某种方式捕获内存错误是很有用的。目前工作区刚刚失效,用户有时很难理解原因,尤其是在FME服务器上。也许有人知道如何最好地处理这个问题——比如拒绝的端口或者为用户显示的终止符消息?
我目前正在努力提高数据提取过程的性能,我想知道固态硬盘是否对我的特定工作流程有益。亚搏在线这个过程没有接近内存限制,所以在翻译过程中不会将临时文件(我知道)写入磁盘。该过程通过将zip文件中的形状文件写入本地网络驱动器来完成。我想知道,如果FME在压缩前临时将形状文件写入我的PC硬盘,因为如果是这样,这意味着固态硬盘将是有益的。但是如果压缩过程完全在内存中完成,那么我怀疑固态硬盘是否有益。
有人能回答我的问题吗?
我在17539版本中的非WindowsFME中看到了一些奇怪的东西:日志文件末尾报告的进程内存使用峰值是0…
这是我的Mac电脑:
这是在FME云上(Linux)
具有相同FME构建的Windows计算机确实正确显示了它。
其他人注意到了吗?
FME服务器2016.0到FME服务器2016.1.0.x
断然的对于FME服务器2016.1.1(内部版本16588)和更新版本
刷新许可证文件时,FME服务器核心正在泄漏文件句柄。当FME服务器长时间运行(估计3个月或更长时间)时,出现意外行为,需要完全重新启动FME服务器。
有一些与此问题相关的症状报告:
1。FME服务器Web界面没有响应。
2。一个或多个FME服务器进程正在使用最大CPU。
三。FME服务器日志记录“失控”–例如在短时间内写入100s MB的日志。尤其是,在fmeserver.log文件中,重复出现以下行:包括Java.io.ioexception:打开的文件太多.
通知Reqththand线程401832:未能接受端口7071java. Io.IOExchange上的新客户端连接:在Sun.Nio.Ch.ServCoCKChhannIMPL.Access(ServOrackChhannIMPL.java:422)在Sun.Nio.Ch.ServCoCKChhannIMPL接受(ServOrackChhannIMPL.java:250)太多的Sun.Nio.C.ServCoCKEnChurnIMP.IMP.Access 0(原生方法)在COM.FiMeServer .ReQuththand LeBase.com上的Access ListTrnTrimeReQuest[Reqththand LeBase.java:432).在COM.Acth.Field.FiMeSer亚搏在线ver .Reqththand LeBase.Run(Reqththand LeBase.java:937)在Java.Lang.Trime.Run(线程. Java:745)上运行的HealthMeMeVeleCclipse连接程序(ReqStand).
升级至FME Server 2016.1.1(内部版本16588)或更新版本,或定期重启FME服务器(每1-3个月)。
我在知识中心搜索了几乎所有有关优化记忆的问题。我的电脑设置好了,技术上不应该有任何内存问题。
工作台从Oracle中读取15个非空间表和2个空间表,并将相同的表写入3种不同的文件格式-esri geodatabase(file geodb arcobjects)。选项卡和形状文件。
读卡器是一个连接到Oracle数据库的sqlcreator,语句为'select*from product'。$(州)房子。
我已经创建了一个已发布的参数$(state),这样我就可以运行同一个工作台9次。参数是指定要从中读取的Oracle表的状态。共有9个变量。
我的日志文件显示:
读取的功能总数大约为20毫升(80%是非空间的)。
总输出大小仅为6GB。
问题:
我很感激任何能让我的工作台更快运行的建议。
如果FME64位有一个工作空间参数,限制了该工作空间可以使用的总内存,这将是很有帮助的。这将允许用户更容易地运行多个RAM密集型工作空间,而不会因内存问题导致故障。我在Amazon环境中使用60+GB的可用RAM运行了几个工作空间,我遇到了一个问题,一个变压器上的一个工作空间将消耗超过59GB,这反过来导致我的其他工作空间出现故障。我特别发现空间滤波器和交叉变压器是最积极的RAM消费者之一。因此,能够对工作空间本身或者甚至对单个变压器的内存消耗量设置限制是很有用的。